Uwaga wielogłowicowa (multi-head attention)

Multi-head attention · id multihead · aliases: MHA, multi-head attention, uwaga wielogłowicowa, attention heads, głowice uwagi

Równoległe wykonanie h niezależnych operacji scaled dot-product attention na różnych rzutowaniach zapytań, kluczy i wartości, z konkatenacją i rzutowaniem wyniku.

Running h independent scaled dot-product attention operations in parallel on different projections of queries, keys and values, then concatenating and projecting the result.

In one sentence

Model patrzy na ten sam tekst kilkoma równoległymi „parami oczu”, z których każda śledzi inny rodzaj powiązań między słowami.

The model looks at the same text through several parallel "pairs of eyes", each tracking a different kind of link between words.

Problem it solves

Jedno spojrzenie na zdanie nie uchwyci naraz gramatyki, odniesień do wcześniejszych słów i sensu całości.

A single look at a sentence cannot catch grammar, references to earlier words and overall meaning all at once.

What it does

Jak zespół korektorów: jeden sprawdza interpunkcję, drugi fakty, trzeci styl, a na koniec łączą uwagi w jedną poprawkę.

Like a team of proofreaders: one checks punctuation, another facts, a third style, and then they merge their notes into one edit.

Everyday example

Gdy w zdaniu pada „ona”, jedna część modelu szuka, o kogo chodzi, a inna pilnuje zgodności czasu i liczby.

When a sentence says "she", one part of the model looks for who is meant while another keeps tense and number consistent.

This concerns you if you…

Related topics

Sources