Destylacja przez odpowiedzi nauczyciela (dane syntetyczne)

Sequence-level distillation from teacher outputs · id seqdistill · aliases: sequence-level KD, black-box distillation, off-policy distillation, distillation via synthetic data

Nauczyciel generuje odpowiedzi, a uczeń jest na nich dostrajany jak na zwykłych danych (SFT). Działa także z modelem dostępnym tylko przez API; trzeba pilnować warunków licencji.

The teacher generates answers and the student is fine-tuned on them like ordinary data (SFT). Works even with an API-only teacher; licence terms need checking.

In one sentence

To uczenie modelu na gotowych odpowiedziach wygenerowanych przez model nauczyciela.

This trains a model on completed responses generated by a teacher model.

Problem it solves

Potrzebujesz wielu przykładów dobrych odpowiedzi, a ręczne przygotowanie wszystkich zajmuje zbyt dużo czasu.

You need many examples of good responses, but writing all of them by hand takes too long.

What it does

Nauczyciel tworzy przykłady, wybrane odpowiedzi trafiają do zbioru treningowego, a uczeń ćwiczy ich odtwarzanie; błędy nauczyciela mogą się przenieść.

A teacher generates examples, selected responses enter the training set, and the student learns to reproduce them; teacher errors can carry over.

Everyday example

Przygotowujesz i sprawdzasz podsumowania zgłoszeń dużym modelem, a potem używasz ich do treningu mniejszego.

You produce and verify request summaries with a large model, then use them to train a smaller one.

This concerns you if you…

Examples

Related topics

Sources