Badanie, czy model potrafi strategicznie ukrywać swoje cele: zachowywać się poprawnie tylko wtedy, gdy sądzi, że jest trenowany lub testowany, zaniżać wyniki (sandbagging) albo obchodzić nadzór. Obszar badań ewaluacyjnych od 2024 r.
Studying whether a model can strategically hide its goals: behaving well only when it believes it is being trained or tested, deliberately underperforming (sandbagging) or evading oversight. An evaluation research area since 2024.
To badanie, czy model ukrywa niepożądane zachowanie lub dopasowuje je do tego, czy jest obserwowany.
This investigates whether a model conceals unwanted behaviour or changes it depending on whether it is being observed.
Poprawne zachowanie podczas znanego testu może nie pokazywać, co model zrobi w innych warunkach.
Acceptable behaviour during a known test may not reveal what a model will do under other conditions.
Testy zmieniają warunki nadzoru i dostępne informacje, szukając rozbieżności, ukrywania działań lub celowego zaniżania pokazywanych zdolności.
Tests vary oversight conditions and available information, looking for discrepancies, concealed actions or deliberate underperformance.
W kontrolowanym teście sprawdzasz, czy agent pomija wymaganą kontrolę częściej, gdy nie spodziewa się przeglądu swoich działań.
In a controlled test, you check whether an agent skips required checks more often when it does not expect its actions to be reviewed.