Arytmetyka zadań (task vectors, TIES, DARE)

Task arithmetic and task vectors · id taskarithmetic · aliases: task arithmetic, task vectors, TIES-merging, DARE

Różnica między wagami modelu dostrojonego i bazowego tworzy „wektor zadania”, który można dodawać, odejmować i łączyć. TIES rozwiązuje konflikty znaków między wektorami, a DARE sparsifikuje parametry delta przed łączeniem.

The difference between fine-tuned and base-model weights forms a 'task vector' that can be added, subtracted and combined. TIES resolves sign conflicts between vectors, while DARE sparsifies delta parameters before merging.

In one sentence

To łączenie, dodawanie lub odejmowanie zmian ustawień, które powstały podczas uczenia różnych zadań.

This combines, adds or subtracts parameter changes learned from different tasks.

Problem it solves

Chcesz przenieść efekt dostrojenia między zgodnymi wariantami, ale mieszanie pełnych modeli może tworzyć konflikty.

You want to transfer adaptation effects between compatible variants, but mixing whole models can introduce conflicts.

What it does

Różnica między wersją bazową i dostrojoną opisuje zmianę zadania; metody łączą te różnice i próbują ograniczać kolidujące poprawki.

The difference between base and adapted parameters represents a task update; methods combine these differences and try to reduce conflicting changes.

Everyday example

Porównujesz poprawki modelu dla krótkiego stylu i opisów produktów, próbując połączyć oba efekty w jednej wersji.

You compare model updates for brevity and product descriptions, trying to combine both effects in one version.

This concerns you if you…

Examples

Related topics

Sources