Samodestylacja powtarzana w rundach, w której zaktualizowany model staje się nauczycielem następnej iteracji.
Self-distillation repeated across rounds, with the updated model becoming the teacher for the next iteration.
Model uczy się na własnych odpowiedziach z dodatkowym kontekstem, a po każdej rundzie staje się nauczycielem dla następnej.
A model learns from its own answers with extra context, and after each round becomes the teacher for the next.
Chcesz poprawić model bez zewnętrznego nauczyciela, używając tylko jego własnych generacji i prostych wskazówek.
You want to improve a model without an external teacher, using only its own generations and simple cues.
W każdej rundzie model generuje lub ocenia trajektorie z dodatkową informacją, uczeń dopasowuje do nich zachowanie bez tej informacji, a zaktualizowane wagi rozpoczynają kolejną rundę.
In each round, a model generates or evaluates trajectories with extra information, the student matches that behaviour without the information, and the updated weights start the next round.
Model widzi podczas generowania dodatkową wskazówkę, uczy się odtwarzać odpowiedź bez niej, a następnie powtarza ten proces jako nowy nauczyciel.
A model sees an extra cue while generating, learns to reproduce the response without it, then repeats the process as the new teacher.