SFT na długich łańcuchach myśli

Long chain-of-thought fine-tuning · id longcotsft

Dostrajanie nadzorowane na starannie dobranych przykładach z długim rozumowaniem; często jako „zimny start” przed RL albo jako tani sposób na model rozumujący z niewielkiej liczby przykładów.

Supervised fine-tuning on curated examples with long reasoning traces; often a “cold start” before RL, or a cheap route to a reasoning model from few examples.

In one sentence

To uczenie modelu na starannie dobranych przykładach zawierających długie, rozpisane rozwiązania.

This trains a model on carefully selected examples containing long worked solutions.

Problem it solves

Model potrzebuje przykładów prowadzenia wieloetapowego rozwiązania, zanim będzie skuteczniej ćwiczył trudne zadania.

A model needs examples of multi-step solutions before it can practise difficult tasks more effectively.

What it does

Trening uczy przewidywać kolejne fragmenty dobrych rozwiązań, kształtując sposób zapisywania etapów i poprawiania prób.

Training teaches prediction of successive parts of good solutions, shaping how the model writes steps and revises attempts.

Everyday example

Przygotowujesz sprawdzone rozwiązania zadań z kilkoma warunkami i używasz ich do dostrojenia modelu.

You prepare verified solutions to tasks with several constraints and use them to adapt a model.

This concerns you if you…

Examples

Related topics

Sources