Równoległe wykonanie h niezależnych operacji scaled dot-product attention na różnych rzutowaniach zapytań, kluczy i wartości, z konkatenacją i rzutowaniem wyniku.
Running h independent scaled dot-product attention operations in parallel on different projections of queries, keys and values, then concatenating and projecting the result.
Model patrzy na ten sam tekst kilkoma równoległymi „parami oczu”, z których każda śledzi inny rodzaj powiązań między słowami.
The model looks at the same text through several parallel "pairs of eyes", each tracking a different kind of link between words.
Jedno spojrzenie na zdanie nie uchwyci naraz gramatyki, odniesień do wcześniejszych słów i sensu całości.
A single look at a sentence cannot catch grammar, references to earlier words and overall meaning all at once.
Jak zespół korektorów: jeden sprawdza interpunkcję, drugi fakty, trzeci styl, a na koniec łączą uwagi w jedną poprawkę.
Like a team of proofreaders: one checks punctuation, another facts, a third style, and then they merge their notes into one edit.
Gdy w zdaniu pada „ona”, jedna część modelu szuka, o kogo chodzi, a inna pilnuje zgodności czasu i liczby.
When a sentence says "she", one part of the model looks for who is meant while another keeps tense and number consistent.