Dane syntetyczne i augmentacja

Synthetic data and augmentation · id synthetic

Tworzenie lub przekształcanie przykładów.

Creating or transforming examples.

In one sentence

To tworzenie nowych przykładów do nauki przez generowanie treści lub zmienianie istniejących materiałów.

This creates new learning examples by generating content or transforming existing material.

Problem it solves

Masz za mało przykładów lub brakuje w nich sytuacji, które model powinien rozpoznawać.

You lack examples or your collection misses situations the model needs to handle.

What it does

Tworzy dodatkowe warianty i zadania, a kontrola jakości pomaga wybrać te, które nadają się do nauki.

It creates extra variations and tasks, while quality checks help select those suitable for learning.

Everyday example

Uczysz program rozpoznawać paczki i dodajesz przekształcone zdjęcia pokazujące inne kadry lub oświetlenie.

You train software to recognise parcels and add transformed photos with different crops or lighting.

This concerns you if you…

masz mało przydatnych przykładów
chcesz uzupełnić brakujące sytuacje w materiale do nauki
have few useful examples
want to fill gaps in your learning material

Examples

Generowanie danych · augmentacja
Data generation · augmentation

Subtopics

Augmentacja danych (obraz i tekst) (Data augmentation for images and text): Creating new examples by transforming existing ones — rotating and cropping images, paraphrasing and back-translating text.
Generowanie danych instrukcyjnych przez LLM (LLM-generated instruction data): A model generates instructions, inputs and answers from a few seed examples; after filtering weak and near-duplicate ones they are used for fine-tuning.
Syntetyczne dane do pretrainingu (przepisywanie, podręczniki) (Synthetic pretraining data: rephrasing and textbooks): Rewriting web text into a more useful form or generating textbook-style material as a way to improve pretraining efficiency. Outcomes depend on generation quality, filtering, and how synthetic data is combined with real data.
Syntetyczne dane tabelaryczne (Synthetic tabular data generation): Generating rows for mixed-type tables with generative models; CTGAN conditions generation to better represent multimodal continuous columns and rare categories.
Syntetyczne trajektorie i dane wywołań narzędzi dla agentów (Synthetic agent trajectories and tool-use data): Automatic generation and verification of queries, function calls and multi-step agent trajectories in environments and APIs for model fine-tuning.
Weryfikacja i filtrowanie danych syntetycznych (Verifying and filtering synthetic data): Quality control for model-generated data through rejection sampling and automatic verification of answers, code execution or tool calls.
Wzbogacanie próbek (Sample enhancement): Improving generated examples: checking answers, picking the best of several, making tasks harder.
Załamanie modelu na danych syntetycznych (Model collapse from synthetic data): The risk that models trained recursively on content generated by earlier models lose information about the original data distribution, beginning with rare cases.

Sources

Full Stack Deep Learning (2022, archiwum) · reference: Pełny cykl systemu ML: dane, testy, wdrażanie, monitoring, zespoły i etyka.
Stanford CS336 · Language Modeling from Scratch (2025) · reference: Budowa modeli, dane, trening, systemy, inferencja i post-training.
DeepLearning.AI — course catalogue · course catalogue: 42 topic labels with counts, about 130 courses.
Best Practices and Lessons Learned on Synthetic Data · Ruibo Liu, Jerry Wei, Fangyu Liu, Chenglei Si, Yanzhe Zhang, Jinmeng Rao, Steven Zheng, Daiyi Peng, Diyi Yang, Denny Zhou, Andrew M. Dai