Metoda PEFT, która mnoży klucze, wartości i aktywacje warstwy feed-forward przez wyuczone wektory.
A PEFT method that multiplies attention keys, values and feed-forward activations by learned vectors.
Bardzo lekki sposób dostrajania: model uczy się tylko, które swoje wewnętrzne sygnały wzmocnić, a które wyciszyć.
A very light form of fine-tuning: the model only learns which of its internal signals to boost and which to dampen.
Nawet małe nakładki na model to sporo parametrów, gdy trzeba trzymać setki wersji dla różnych klientów lub zadań.
Even small add-ons are a lot of parameters when you must keep hundreds of model versions for different clients or tasks.
Jak mikser dźwięku: nie wymieniasz instrumentów, tylko podkręcasz albo ściszasz suwaki poszczególnych ścieżek.
Like a mixing desk: you don't swap instruments, you just push faders up or down on each track.
Firma ma osobną, malutką nakładkę modelu dla każdego klienta i przełącza je w locie przy każdym zapytaniu.
A company keeps a tiny separate add-on for each client and swaps them on the fly with every request.