Prompty, które skłaniają model do złamania własnych zasad bezpieczeństwa: odgrywanie ról, zaciemnianie prośby, rzadkie języki, automatycznie wyszukane sufiksy adwersarialne. Działają, bo cele „pomóż” i „bądź bezpieczny” ze sobą konkurują.
Prompts that get a model to break its own safety rules: role-play, obfuscated requests, low-resource languages, automatically searched adversarial suffixes. They work because the goals “be helpful” and “be safe” compete.
To polecenia próbujące skłonić model do odpowiedzi, których jego zabezpieczenia miały zabraniać.
These prompts try to make a model produce responses its safeguards were meant to prohibit.
Model odmawia niedozwolonej prośbie wprost, ale może ulec jej po zmianie sposobu przedstawienia.
A model refuses a prohibited request directly but may comply when it is framed differently.
Atak manipuluje kontekstem lub postacią prośby, próbując ominąć wyuczone ograniczenia; skuteczność zmienia się między modelami i wersjami.
An attack manipulates context or request framing to bypass learned restrictions; effectiveness varies across models and versions.
W kontrolowanym teście sprawdzasz, czy model nadal odmawia szkodliwej prośbie ukrytej w fikcyjnej rozmowie.
In a controlled test, you check whether a model still refuses a harmful request hidden in a fictional conversation.