Przycinanie zbioru treningowego

Training data pruning · id datapruning · aliases: data pruning, data diet, dataset pruning

Ranking przykładów według metryki przycinania (trudność, niepewność, typowość) i usuwanie części zbioru przed treningiem.

Ranking examples by a pruning metric (difficulty, uncertainty, prototypicality) and removing part of the dataset before training.

In one sentence

Usuwanie z danych treningowych przykładów, które niewiele uczą, na podstawie oceny ich trudności lub nadmiarowości.

Removing training examples that teach little, based on how hard or redundant they are judged to be.

Problem it solves

Dokładanie kolejnych danych daje coraz mniejszy zysk, a każdy nowy przykład kosztuje czas i energię treningu.

Adding more data brings ever smaller gains, while every extra example costs training time and energy.

What it does

Jak trener dobierający ćwiczenia: odrzuca te, które zawodnik już opanował, a zostawia te, które wciąż czegoś go uczą.

Like a coach choosing drills: it drops the ones the athlete has mastered and keeps the ones that still teach something.

Everyday example

Firma skraca trening modelu do rozpoznawania zdjęć, wyrzucając najbardziej oczywiste przykłady, i sprawdza, że jakość prawie się nie zmieniła.

A company shortens training of an image classifier by dropping the most obvious examples and checks that quality barely changed.

This concerns you if you…

Related topics

Sources