# Selekcja danych do dostrajania

EN: **Selecting data for fine-tuning** · id `finetuneselection` · aliases: instruction data selection, LIMA, LESS

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Dane dla AI](https://aiatlasgraph.com/t/data.md) › [Selekcja i proporcje danych](https://aiatlasgraph.com/t/dataselection.md) › Selekcja danych do dostrajania

## Description

- PL: Wybór niewielkiego, starannego zbioru przykładów do SFT zamiast wielkiego i przypadkowego — ręcznie albo metodą, która mierzy wpływ przykładu na zadanie docelowe.
- EN: Choosing a small, carefully curated set of SFT examples instead of a large random one — by hand or with a method that measures each example's influence on the target task.

## In one sentence

- PL: To wybieranie przykładów, które najlepiej pokazują modelowi, jak wykonywać konkretne zadanie.
- EN: This selects examples that best show a model how to perform a specific task.

## Problem it solves

- PL: Przypadkowe przykłady nie uczą potrzebnego sposobu odpowiadania, nawet gdy masz ich dużo.
- EN: Random examples may not teach the response you need, even when you have many of them.

## What it does

- PL: Ocenia poprawność i przydatność przykładów oraz ich wpływ na docelowe zadanie, a potem wybiera materiał do dostrajania.
- EN: It assesses example quality, relevance and influence on the target task, then selects material for adapting the model.

## Everyday example

- PL: Dostrajasz asystenta do reklamacji, wybierając sprawdzone odpowiedzi zarówno na typowe pytania, jak i na trudne przypadki.
- EN: You adapt a complaints assistant using checked replies to difficult cases as well as common questions.

## This concerns you if you…

- PL: chcesz nauczyć model określonego sposobu odpowiadania
- PL: wybierasz materiał z dużego archiwum odpowiedzi
- EN: want to teach a model a particular response style
- EN: select material from a large answer archive

## Keywords

LIMA · LESS · gradient-based influence · instruction diversity · target-task similarity

## How it works

- PL: Kandydatów ocenia się według jakości odpowiedzi, różnorodności i dopasowania do zadań docelowych. Metody wpływu porównują sygnały gradientowe przykładów treningowych z małym zbiorem docelowym, by wybrać bardziej użyteczne dane.
- EN: Candidates are assessed for answer quality, diversity and target-task relevance. Influence methods compare training-example gradient signals with a small target set to select more useful data.

## Limits

- PL: Ocena wpływu jest przybliżona i zależy od modelu oraz zadania. Zbyt wąska selekcja ogranicza pokrycie; mały zbiór nadal wymaga poprawnych odpowiedzi i kontroli wycieku.
- EN: Influence estimates are approximate and model- and task-dependent. Narrow selection reduces coverage; small datasets still need correct answers and leakage checks.

## Key terms

- PL: **wpływ przykładu**: Przybliżona zmiana zachowania modelu wynikająca z uczenia na konkretnej próbce.
- PL: **zbiór docelowy**: Przykłady reprezentujące zadania, dla których dobiera się dane treningowe.
- EN: **example influence**: An estimated change in model behaviour from training on a particular sample.
- EN: **target set**: Examples representing tasks used to guide training-data selection.

## Know first

- [SFT / instruction tuning (Supervised fine-tuning)](https://aiatlasgraph.com/t/sft.md)
- [Zbiory testowe i regresje (Evaluation datasets and regression tests)](https://aiatlasgraph.com/t/evalsets.md)

## Examples

- PL: 1000 starannych przykładów (LIMA) · selekcja po podobieństwie gradientów (LESS)
- EN: 1,000 curated examples (LIMA) · gradient-similarity selection (LESS)

## Related topics

Untyped, symmetric "see also" links.

- [SFT / instruction tuning (Supervised fine-tuning)](https://aiatlasgraph.com/t/sft.md)
- [Wycena danych wartością Shapleya (Data Shapley) (Data Shapley valuation)](https://aiatlasgraph.com/t/datashapley.md)

## Sources

- [LIMA: Less Is More for Alignment](<https://arxiv.org/abs/2305.11206>) `lima-2023` · by Chunting Zhou, Pengfei Liu, Puxin Xu, Srini Iyer, Jiao Sun, Yuning Mao, Xuezhe Ma, Avia Efrat, Ping Yu, Lili Yu, Susan Zhang, Gargi Ghosh, Mike Lewis, Luke Zettlemoyer, Omer Levy
- [LESS: Selecting Influential Data for Targeted Instruction Tuning](<https://arxiv.org/abs/2402.04333>) `less-2024` · by Mengzhou Xia, Sadhika Malladi, Suchin Gururangan, Sanjeev Arora, Danqi Chen

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/finetuneselection · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30