Oduczanie modeli (machine unlearning)

Machine unlearning · id unlearning

Usuwanie z już wytrenowanego modelu wpływu wybranych danych lub zdolności (np. danych osobowych, treści chronionych prawem autorskim) bez trenowania od zera. Wciąż otwarty problem: trudno sprawdzić, czy model naprawdę „zapomniał”.

Removing the influence of selected data or capabilities (e.g. personal data, copyrighted content) from an already-trained model without retraining from scratch. Still an open problem: it is hard to verify the model truly “forgot”.

In one sentence

To próby usunięcia wpływu wybranych danych lub zdolności z już wyuczonego modelu.

This attempts to remove selected data influence or capabilities from an already trained model.

Problem it solves

Nie chcesz, żeby model dalej korzystał z usuniętych informacji, a ponowny trening od początku jest kosztowny.

You do not want a model to keep using removed information, while retraining from scratch is costly.

What it does

Zmienia ustawienia modelu, żeby osłabić wybrany wpływ i zachować inne umiejętności; potwierdzenie skutecznego zapomnienia jest trudne.

It changes model parameters to weaken selected influence while retaining other abilities; verifying successful forgetting is difficult.

Everyday example

Po wycofaniu prywatnych dokumentów testujesz metodę ograniczającą ich wpływ i sprawdzasz różne sposoby wydobycia zapamiętanej treści.

After withdrawing private documents, you test a method reducing their influence and check different ways of eliciting remembered content.

This concerns you if you…

Examples

Sources