SFT / instruction tuning

Supervised fine-tuning · id sft

Dostrajanie na przykładach oczekiwanej odpowiedzi.

Fine-tuning on examples of the expected answer.

In one sentence

To dostrajanie modelu na przykładach pokazujących, jaką odpowiedź powinien dać na dane polecenie.

This adapts a model using examples of the response it should give to a particular instruction.

Problem it solves

Model nie zna oczekiwanego sposobu wykonania zadania, choć potrafi tworzyć ogólny tekst.

A model can generate general text but does not know your expected way of completing the task.

What it does

Trening przewiduje kolejne fragmenty wzorcowej odpowiedzi i poprawia ustawienia, żeby częściej odtwarzać pokazane zachowanie.

Training predicts successive elements of reference responses and updates parameters to reproduce the demonstrated behaviour more often.

Everyday example

Pokazujesz modelowi przykłady zamiany zgłoszeń w krótkie notatki z problemem i następnym krokiem.

You show a model examples of turning requests into brief notes containing the problem and next step.

This concerns you if you…

• potrafisz przygotować wzorcowe odpowiedzi
• chcesz nauczyć model powtarzalnego sposobu działania
• can prepare reference responses
• want to teach a model a repeatable behaviour

Examples

• Przykłady instrukcja–odpowiedź
• Instruction–response pairs

Subtopics

• Dostrajanie do wywoływania funkcji i narzędzi (Function-calling and tool-use fine-tuning): Fine-tuning a model on examples whose answer is a correct, structured tool call with arguments.

Related topics

• Generowanie danych instrukcyjnych przez LLM (LLM-generated instruction data)
• Selekcja danych do dostrajania (Selecting data for fine-tuning)
• SFT na długich łańcuchach myśli (Long chain-of-thought fine-tuning)

Sources

• Stanford CS336 · Language Modeling from Scratch (2025) · reference: Budowa modeli, dane, trening, systemy, inferencja i post-training.