Destylacja rozumowania do mniejszych modeli

Reasoning distillation · id reasoningdistill

Duży model rozumujący generuje ścieżki rozumowania, na których dostraja się mniejszy model. Tani sposób na mały model z umiejętnością rozumowania.

A large reasoning model generates reasoning traces that a smaller model is fine-tuned on. A cheap way to give a small model reasoning ability.

In one sentence

To uczenie mniejszego modelu rozwiązywania zadań na przykładach przygotowanych przez większy model.

This teaches a smaller model to solve tasks using examples produced by a larger model.

Problem it solves

Silniejszy model rozwiązuje zadania, ale jest zbyt drogi lub duży do codziennego używania.

A stronger model solves the tasks but is too costly or large for everyday use.

What it does

Większy model generuje rozwiązania, wybrane przykłady są sprawdzane, a mniejszy model uczy się na nich podobnego sposobu działania.

A larger model generates solutions, selected examples are checked, and a smaller model trains on them to learn similar behaviour.

Everyday example

Zbierasz sprawdzone rozwiązania zadań o pakowaniu i używasz ich do nauczenia mniejszego modelu działającego lokalnie.

You collect verified packing-task solutions and use them to train a smaller model that runs locally.

This concerns you if you…

Examples

Related topics

Sources