Głowy indukcyjne i mechanizm uczenia w kontekście

Induction heads and in-context learning · id inductionheads · aliases: induction heads, głowy indukcyjne, induction circuit

Obwód dwóch głów uwagi, który po wystąpieniu [A][B] przewiduje [B] przy ponownym [A]; proponowany jako główne źródło uczenia w kontekście.

A two-attention-head circuit that, after seeing [A][B], predicts [B] when [A] recurs; proposed as a main source of in-context learning.

In one sentence

Prosty wewnętrzny mechanizm, dzięki któremu model zauważa powtórzony wzorzec w tekście i dopełnia go dalej.

A simple inner mechanism that lets a model notice a repeated pattern in text and continue it.

Problem it solves

Model potrafi naśladować przykłady podane w poleceniu, ale z zewnątrz nie widać, jak to robi ani skąd bierze się ta umiejętność.

A model can imitate examples given in a prompt, but from outside it is unclear how it does so or where the skill comes from.

What it does

Działa jak czytelnik, który raz zobaczył „zielona herbata”, więc przy kolejnym „zielona” spodziewa się słowa „herbata”.

It works like a reader who once saw “green tea” and so, at the next “green”, expects the word “tea”.

Everyday example

Wklejasz listę kodów produktów z nazwami, a asystent przy kolejnym kodzie poprawnie podaje nazwę z wcześniejszej części listy.

You paste a list of product codes with names, and the assistant correctly gives a name from earlier in the list for a repeated code.

This concerns you if you…

Sources