# SFT na długich łańcuchach myśli

EN: **Long chain-of-thought fine-tuning** · id `longcotsft`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Rozumowanie w modelach językowych](https://aiatlasgraph.com/t/reasoningmodels.md) › [Trenowanie modeli rozumujących](https://aiatlasgraph.com/t/reasoningtraining.md) › SFT na długich łańcuchach myśli

## Description

- PL: Dostrajanie nadzorowane na starannie dobranych przykładach z długim rozumowaniem; często jako „zimny start” przed RL albo jako tani sposób na model rozumujący z niewielkiej liczby przykładów.
- EN: Supervised fine-tuning on curated examples with long reasoning traces; often a “cold start” before RL, or a cheap route to a reasoning model from few examples.

## In one sentence

- PL: To uczenie modelu na starannie dobranych przykładach zawierających długie, rozpisane rozwiązania.
- EN: This trains a model on carefully selected examples containing long worked solutions.

## Problem it solves

- PL: Model potrzebuje przykładów prowadzenia wieloetapowego rozwiązania, zanim będzie skuteczniej ćwiczył trudne zadania.
- EN: A model needs examples of multi-step solutions before it can practise difficult tasks more effectively.

## What it does

- PL: Trening uczy przewidywać kolejne fragmenty dobrych rozwiązań, kształtując sposób zapisywania etapów i poprawiania prób.
- EN: Training teaches prediction of successive parts of good solutions, shaping how the model writes steps and revises attempts.

## Everyday example

- PL: Przygotowujesz sprawdzone rozwiązania zadań z kilkoma warunkami i używasz ich do dostrojenia modelu.
- EN: You prepare verified solutions to tasks with several constraints and use them to adapt a model.

## This concerns you if you…

- PL: masz sprawdzone długie rozwiązania
- PL: przygotowujesz model do dalszego treningu rozumowania
- EN: have verified long worked solutions
- EN: prepare a model for further reasoning training

## Keywords

cold-start SFT · s1K · reasoning traces · loss masking · trace filtering

## How it works

- PL: Dane łączą pytania z rozbudowanymi krokami i odpowiedziami, a strata tokenowa uczy odtwarzania tych sekwencji. Selekcja poprawnych śladów i maskowanie części wejściowej określają wzorce oraz fragmenty, za które odpowiada trening.
- EN: Data pairs questions with extended steps and answers, and token loss teaches sequence reproduction. Selecting correct traces and masking input portions determine learned patterns and which segments receive training supervision.

## Limits

- PL: Długie ślady zwiększają koszt i mogą utrwalać zbędne kroki. Imitacja poprawnej odpowiedzi nie gwarantuje samodzielnej weryfikacji; błędne lub przeciekające przykłady zniekształcają ocenę.
- EN: Long traces increase cost and can reinforce unnecessary steps. Imitating correct answers does not guarantee independent verification; incorrect or leaked examples distort evaluation.

## Key terms

- PL: **maska straty**: Wybór tokenów, których błędy uczestniczą w aktualizacji parametrów.
- PL: **selekcja śladów**: Dobór rozwiązań pod kątem jakości, poprawności i przydatności treningowej.
- EN: **loss mask**: Selecting tokens whose errors contribute to parameter updates.
- EN: **trace selection**: Choosing solutions for quality, correctness and training usefulness.

## Know first

- [SFT / instruction tuning (Supervised fine-tuning)](https://aiatlasgraph.com/t/sft.md)
- [Zbiory testowe i regresje (Evaluation datasets and regression tests)](https://aiatlasgraph.com/t/evalsets.md)

## Examples

- PL: cold-start SFT · ~1000 trudnych przykładów (s1K)
- EN: cold-start SFT · ~1,000 hard examples (s1K)

## Related topics

Untyped, symmetric "see also" links.

- [SFT / instruction tuning (Supervised fine-tuning)](https://aiatlasgraph.com/t/sft.md)

## Sources

- [DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning](<https://arxiv.org/abs/2501.12948>) `deepseek-r1-2025` · by DeepSeek-AI
- [s1: Simple test-time scaling](<https://arxiv.org/abs/2501.19393>) `s1-budget-forcing-2025` · by Niklas Muennighoff, Zitong Yang, Weijia Shi, Xiang Lisa Li, Li Fei-Fei, Hannaneh Hajishirzi, Luke Zettlemoyer, Percy Liang, Emmanuel Candès, Tatsunori Hashimoto

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/longcotsft · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30