Destylacja zbioru danych

Dataset distillation (dataset condensation) · id datasetdistillation · aliases: dataset distillation, dataset condensation, data condensation

Optymalizacja małego syntetycznego zbioru tak, by model trenowany na nim osiągał wyniki zbliżone do treningu na pełnych danych.

Optimising a small synthetic dataset so that models trained on it approach the results of training on the full data.

In one sentence

Tworzenie bardzo małego, sztucznego zbioru przykładów, który uczy model prawie tyle samo, co oryginalne ogromne dane.

Creating a tiny artificial set of examples that teaches a model nearly as much as the original huge dataset.

Problem it solves

Przechowywanie ogromnych zbiorów i ciągłe trenowanie na nich od nowa jest drogie, a udostępnianie oryginalnych danych bywa ryzykowne.

Storing huge datasets and retraining on them again and again is expensive, and sharing the original data can be risky.

What it does

Zamiast wybierać istniejące zdjęcia, tworzy kilka nowych, skondensowanych obrazów na klasę, dopracowanych tak, żeby uczyły modelu tego samego.

Instead of picking existing photos, it creates a few new, condensed images per class, tuned to teach the model the same things.

Everyday example

Aplikacja w telefonie douczająca się nowych rzeczy, która zamiast całej historii przechowuje garść sztucznych przykładów dawnych zadań.

A phone app that keeps learning new things and, instead of its full history, stores a handful of artificial examples of past tasks.

This concerns you if you…

Related topics

Sources