Zadanie pomocnicze na jednej próbce

One-sample self-supervised test-time training · id tttselfsup · aliases: TTT-Online, rotation prediction at test time

Krótka samonadzorowana aktualizacja na jednej próbce albo strumieniu, przed predykcją zadania głównego.

A short self-supervised update on one sample or a stream, before the main-task prediction.

In one sentence

Z jednego nieoznakowanego przykładu model robi sobie ćwiczenie i dopiero potem odpowiada.

From one unlabeled example the model makes an exercise, and only then answers.

Problem it solves

Nowy przykład wygląda inaczej niż trening, a nie masz poprawnej etykiety, żeby go douczyć.

A new example looks unlike training, and you have no correct label to train on.

What it does

Model rozwiązuje samonadzorowane zadanie pomocnicze na bieżącej próbce, a kilka kroków aktualizuje wagi przed właściwą decyzją.

The model solves a self-supervised auxiliary task on the current sample, and a few steps update weights before the actual decision.

Everyday example

Na zdjęciu z deszczu model najpierw rozwiązuje pomocnicze zadanie bez etykiety, a potem podaje, co znajduje się w kadrze.

On a rainy photo, the model first solves an unlabeled auxiliary task, then says what is in the frame.

This concerns you if you…

Sources