Lekkie klasyfikatory analizujące wewnętrzne aktywacje modelu w poszukiwaniu wzorców związanych z niepożądanym zachowaniem.
Lightweight classifiers analysing the model's internal activations for patterns associated with undesirable behaviour.
To szybkie sprawdzanie wewnętrznych sygnałów modelu, czy nie dzieje się coś niepokojącego.
This quickly checks the model's internal signals for signs that something concerning is happening.
Pełna analiza rozmowy lub łańcucha myśli jest kosztowna, a wczesne wykrycie problemów podczas treningu lub działania agenta jest potrzebne.
Full analysis of a conversation or chain of thought is expensive, yet early detection of problems during training or agent operation is needed.
Klasyfikator patrzy na aktywacje i flaguje przypadki do głębszego sprawdzenia, z wysokim recall i dodatkową losową próbką.
A classifier looks at activations and flags cases for deeper review, with high recall and an additional random sample.
Podczas treningu agentów sonda zauważa nietypowy wzorzec aktywacji związany z próbą ucieczki z ograniczeń i kieruje przypadek do recenzenta.
During agent training, a probe notices an unusual activation pattern related to an attempt to escape constraints and routes the case to a reviewer.