# Selekcja i proporcje danych

EN: **Data selection and mixing** · id `dataselection` · aliases: data selection, data curation, data mixture

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Dane dla AI](https://aiatlasgraph.com/t/data.md) › Selekcja i proporcje danych

## Description

- PL: Decydowanie, które przykłady i w jakich proporcjach trafią do treningu, aby poprawić jakość modelu lub wykorzystanie budżetu, gdy źródła danych różnią się jakością i przydatnością.
- EN: Deciding which examples, and in what proportions, enter training to improve model quality or budget efficiency when data sources differ in quality and usefulness.

## In one sentence

- PL: To wybieranie przykładów i ich proporcji tak, żeby materiał do nauki pasował do potrzeb modelu.
- EN: This chooses examples and their proportions so learning material fits what the model needs to do.

## Problem it solves

- PL: Uczenie na przypadkowej mieszance zajmuje czas, a potrzebne umiejętności mogą ginąć w mało przydatnych przykładach.
- EN: Learning from a random mixture takes time, while needed skills can get lost among less useful examples.

## What it does

- PL: Porównuje przydatność źródeł, wybiera pasujące przykłady i ustala, jak często model będzie spotykał każdy rodzaj materiału.
- EN: It compares sources, picks relevant examples and sets how often the model encounters each kind of material.

## Everyday example

- PL: Przygotowujesz asystenta do odpowiedzi na zgłoszenia i dobierasz przykłady różnych spraw, żeby proste pytania nie przykryły trudniejszych.
- EN: You prepare a support assistant and select examples from different request types so simple questions do not crowd out harder cases.

## This concerns you if you…

- PL: masz więcej materiałów, niż możesz wykorzystać do nauki
- PL: źródła danych różnią się przydatnością
- EN: have more material than you can use for learning
- EN: have data sources that differ in usefulness

## Keywords

quality scoring · importance sampling · diversity sampling · gradient similarity · curriculum learning · domain reweighting

## How it works

- PL: Próbkom przypisuje się oceny jakości, podobieństwa do zadania lub przewidywanego wpływu na uczenie. Selekcja i ważenie zmieniają rozkład treningowy, a niezależna walidacja porównuje strategie przy wspólnym budżecie.
- EN: Samples receive scores for quality, task similarity or expected training influence. Selection and weighting change the training distribution, while independent validation compares strategies under a shared budget.

## Limits

- PL: Dobór pod znany test grozi przeuczeniem procesu selekcji. Wysoki wynik lokalny może kosztować utratę różnorodności i pogorszyć zadania nieobjęte walidacją.
- EN: Selecting for a known test risks overfitting the selection process. Strong local scores can cost diversity and harm tasks outside validation.

## Key terms

- PL: **waga próbki**: Współczynnik określający wpływ przykładu na trening.
- PL: **funkcja selekcji**: Reguła punktująca lub wybierająca dane do konkretnego celu.
- EN: **sample weight**: A coefficient determining an example's influence on training.
- EN: **selection function**: A rule scoring or selecting data for a particular objective.

## Know first

- [Podziały i wyciek danych (Data splits and leakage)](https://aiatlasgraph.com/t/splits.md)
- [Zbiory testowe i regresje (Evaluation datasets and regression tests)](https://aiatlasgraph.com/t/evalsets.md)

## Examples

- PL: Mieszanki domen · selekcja danych do dostrajania · mniej, ale lepszych danych
- EN: Domain mixtures · selecting fine-tuning data · less but better data

## Subtopics (3 direct, 3 in total)

- [Dobór mieszanki danych (DoReMi, RegMix) (Data mixture optimisation)](https://aiatlasgraph.com/t/datamixing.md): Setting how much each source (web, code, books, science) contributes to training, e.g. using small proxy models.
- [Kolejność danych i uczenie z programem nauczania (curriculum learning) (Data ordering and curriculum learning)](https://aiatlasgraph.com/t/datacurriculum.md): Controlling the order and pace of data: curricula from easier to harder examples and automatic self-paced learning.
- [Selekcja danych do dostrajania (Selecting data for fine-tuning)](https://aiatlasgraph.com/t/finetuneselection.md): Choosing a small, carefully curated set of SFT examples instead of a large random one — by hand or with a method that measures each example's influence on the target task.

## Related topics

Untyped, symmetric "see also" links.

- [Filtrowanie jakości (heurystyki i klasyfikatory) (Quality filtering with heuristics and classifiers)](https://aiatlasgraph.com/t/qualityfiltering.md)

## Sources

- [DataComp-LM: In search of the next generation of training sets for language models](<https://arxiv.org/abs/2406.11794>) `dclm-2024` · by Jeffrey Li, Alex Fang, Georgios Smyrnis, Maor Ivgi, Matt Jordan, Samir Gadre, Hritik Bansal, Etash Guha, Sedrick Keh, Kushal Arora i in. (51 autorów)
- [A Survey on Data Selection for Language Models](<https://arxiv.org/abs/2402.16827>) `data-selection-survey-2024` · by Alon Albalak, Yanai Elazar, Sang Michael Xie, Shayne Longpre, Nathan Lambert, Xinyi Wang, Niklas Muennighoff, Bairu Hou, Liangming Pan, Haewon Jeong, Colin Raffel, Shiyu Chang, Tatsunori Hashimoto, William Yang Wang
- [A Survey of LLM × DATA](<https://arxiv.org/abs/2505.18458>) `llm-x-data-survey-2025` · by Xuanhe Zhou, Junxuan He, Wei Zhou, Haodong Chen, Zirui Tang, Haoyu Zhao, Xin Tong, Guoliang Li i in. (17 autorów)

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/dataselection · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30