Iteracyjne DPO na świeżych danych preferencji

Iterative DPO with newly generated preference data · id onlinedpo · aliases: iterative DPO, online DPO, iteracyjne DPO

Powtarzane rundy DPO, w których pary odpowiedzi generuje bieżący model, a ocenia je człowiek, model nagrody lub sędzia.

Repeated rounds of DPO in which the current model generates answer pairs and a human, reward model or judge rates them.

In one sentence

Uczenie modelu w kolejnych rundach: model pisze nowe odpowiedzi, ktoś je ocenia, a model uczy się na tych świeżych ocenach.

Training a model in rounds: it writes new answers, someone rates them, and the model learns from those fresh ratings.

Problem it solves

Stary zbiór porównań opisuje odpowiedzi innego modelu, więc z czasem przestaje pasować do tego, co twój model faktycznie pisze.

An old set of comparisons describes another model's answers, so it gradually stops matching what your model actually writes.

What it does

Jak trener, który co tydzień nagrywa aktualny mecz drużyny i omawia właśnie te błędy, zamiast puszczać nagrania sprzed roku.

Like a coach who records each week's match and reviews those mistakes, instead of showing footage from a year ago.

Everyday example

Asystent co tydzień odpowiada na nowe pytania z bazy, a model oceniający wybiera lepsze wersje do kolejnej rundy nauki.

Each week an assistant answers new questions from a pool, and a rating model picks the better versions for the next round of training.

This concerns you if you…

Related topics

Sources