Uczenie w czasie testu

Test-time training · id testtimeadapt · aliases: TTT, test-time adaptation, uczenie na próbce testowej

Aktualizacja części parametrów na nieoznakowanej próbce testowej, przed właściwą predykcją.

Updating part of the parameters on an unlabeled test sample before the actual prediction.

In one sentence

Model na chwilę doucza się na bieżącym przykładzie, zanim poda odpowiedź, bez gotowej etykiety.

A model briefly trains on the current example before answering, without a ready-made label.

Problem it solves

Świat w użyciu różni się od danych treningowych, a pełne uczenie od nowa jest za wolne albo niemożliwe.

The world in use differs from training data, and full retraining is too slow or impossible.

What it does

Z bieżącej próbki robi się ćwiczenie bez etykiety, a krótka aktualizacja wag poprzedza właściwą odpowiedź.

The current sample becomes an unlabeled exercise, and a short weight update precedes the real answer.

Everyday example

Zdjęcie w nietypowym świetle model najpierw krótko doucza się na tym jednym kadrze, a potem podaje klasę.

For a photo in unusual light, the model briefly trains on that single frame, then names the class.

This concerns you if you…

• dane w użyciu różnią się od treningu
• możesz poczekać na krótką aktualizację
• nie masz etykiety właściwej odpowiedzi
• live data differs from training
• can wait for a short update
• lack a label for the right answer

Subtopics

• Maskowanie obrazu w czasie testu (Masked autoencoder test-time training): One-sample test-time training whose auxiliary objective is reconstructing a masked image.
• Warstwy z modelem w stanie ukrytym (Test-time training layers): A sequence layer whose hidden state is a model updated by a self-supervised step also at test time.
• Zadanie pomocnicze na jednej próbce (One-sample self-supervised test-time training): A short self-supervised update on one sample or a stream, before the main-task prediction.

Related topics

• Obliczenia w czasie wnioskowania (Test-time compute scaling)
• Uczenie ciągłe i transfer (Continual and transfer learning)

Sources

• Test-Time Training with Self-Supervision for Generalization under Distribution Shifts · Yu Sun, Xiaolong Wang, Zhuang Liu, John Miller, Alexei A. Efros, Moritz Hardt
• Learning to (Learn at Test Time): RNNs with Expressive Hidden States · Yu Sun, Xinhao Li, Karan Dalal, Jiarui Xu, Arjun Vikram, Genghan Zhang, Yann Dubois, Xinlei Chen, Xiaolong Wang, Sanmi Koyejo, Tatsunori Hashimoto, Carlos Guestrin
• JEPA-TTT: Persistent Test-Time Training of Latent World Models for Planning under Dynamics Shifts · Zheyuan Zhang, Suyu Ye, Nakul Agarwal, Hossein Nourkhiz Mahjoub, Ehsan Moradi Pari, Daniel Khashabi, Tianmin Shu, Vaishnav Tadiparthi