Edycja wiedzy w modelu (ROME, MEMIT)

Knowledge editing in language models · id knowledgeediting · aliases: knowledge editing, model editing, ROME, MEMIT

Ukierunkowana zmiana faktów lub zachowań zapisanych w modelu bez pełnego ponownego treningu — przez edycję wag albo użycie pamięci zewnętrznej. Celem jest ograniczenie skutków ubocznych poza zakresem edycji, ale nie jest to gwarantowane.

A targeted change to facts or behaviours stored in a model without full retraining — by editing weights or using external memory. The goal is to limit side effects outside the edit's scope, but this is not guaranteed.

In one sentence

To ukierunkowane poprawianie wybranej informacji lub zachowania modelu bez pełnego ponownego treningu.

This targets a particular model fact or behaviour for correction without full retraining.

Problem it solves

Model powtarza nieaktualną informację, a zmiana całej sieci byłaby kosztowna i mogłaby naruszyć inne odpowiedzi.

A model repeats outdated information, while changing the whole network would be costly and could affect other answers.

What it does

Metoda zmienia wybrane ustawienia lub dołącza pamięć poprawek, próbując zachować pozostałe odpowiedzi; skutki uboczne i skuteczność wymagają sprawdzenia.

A method updates selected parameters or adds correction memory while trying to preserve other responses; effectiveness and side effects need checking.

Everyday example

Korygujesz zapamiętaną nazwę działu w modelu i testujesz zarówno pytania o ten dział, jak i niezwiązane tematy.

You correct a remembered department name and test both questions about that department and unrelated topics.

This concerns you if you…

Examples

Related topics

Sources