# Jailbreaki — obchodzenie zabezpieczeń modelu

EN: **Jailbreaking** · id `jailbreaks`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › [Ataki przez prompt](https://aiatlasgraph.com/t/promptattacks.md) › Jailbreaki — obchodzenie zabezpieczeń modelu

## Description

- PL: Prompty, które skłaniają model do złamania własnych zasad bezpieczeństwa: odgrywanie ról, zaciemnianie prośby, rzadkie języki, automatycznie wyszukane sufiksy adwersarialne. Działają, bo cele „pomóż” i „bądź bezpieczny” ze sobą konkurują.
- EN: Prompts that get a model to break its own safety rules: role-play, obfuscated requests, low-resource languages, automatically searched adversarial suffixes. They work because the goals “be helpful” and “be safe” compete.

## In one sentence

- PL: To polecenia próbujące skłonić model do odpowiedzi, których jego zabezpieczenia miały zabraniać.
- EN: These prompts try to make a model produce responses its safeguards were meant to prohibit.

## Problem it solves

- PL: Model odmawia niedozwolonej prośbie wprost, ale może ulec jej po zmianie sposobu przedstawienia.
- EN: A model refuses a prohibited request directly but may comply when it is framed differently.

## What it does

- PL: Atak manipuluje kontekstem lub postacią prośby, próbując ominąć wyuczone ograniczenia; skuteczność zmienia się między modelami i wersjami.
- EN: An attack manipulates context or request framing to bypass learned restrictions; effectiveness varies across models and versions.

## Everyday example

- PL: W kontrolowanym teście sprawdzasz, czy model nadal odmawia szkodliwej prośbie ukrytej w fikcyjnej rozmowie.
- EN: In a controlled test, you check whether a model still refuses a harmful request hidden in a fictional conversation.

## This concerns you if you…

- PL: sprawdzasz granice odmowy modelu
- PL: chcesz ocenić zabezpieczenia po zmianie wersji
- EN: test a model's refusal boundaries
- EN: want to assess safeguards after a version change

## Keywords

GCG · adversarial suffixes · role-play attacks · multi-turn jailbreaks · transferable adversarial attacks · Constitutional Classifiers

## How it works

- PL: Wejście zmienia formę, kontekst lub sekwencję prośby, aby uruchomić zdolność modelu poza wyuczonym ograniczeniem. Poszukiwanie adwersarialnych promptów wykorzystuje rozbieżności pomiędzy generalizacją zadania a generalizacją treningu bezpieczeństwa.
- EN: Inputs change request form, context or sequence to activate model capabilities beyond learned restrictions. Adversarial prompt search exploits gaps between task generalisation and safety-training generalisation.

## Limits

- PL: Ataki nie przenoszą się jednakowo między modelami i wersjami. Odrzucenie jednego promptu nie dowodzi odporności, a wykrywanie form powierzchniowych może blokować także dozwolone badania i wyjaśnienia.
- EN: Attacks transfer unevenly across models and versions. Rejecting one prompt does not establish robustness, while surface-form detection can also block legitimate research and explanation.

## Key terms

- PL: **przykład adwersarialny**: Wejście celowo dobrane do wywołania niepożądanego zachowania modelu.
- PL: **generalizacja bezpieczeństwa**: Stosowanie wyuczonych ograniczeń do nowych form i kontekstów prośby.
- EN: **adversarial example**: An input deliberately chosen to induce undesirable model behaviour.
- EN: **safety generalisation**: Applying learned restrictions to novel request forms and contexts.

## Know first

- [Prompty i kontekst (Prompting and context engineering)](https://aiatlasgraph.com/t/prompting.md)
- [Metryki klasyfikacji i regresji (Classification and regression metrics)](https://aiatlasgraph.com/t/classmetrics.md)

## Examples

- PL: odgrywanie ról · sufiksy adwersarialne (GCG) · wieloturowe eskalacje
- EN: role-play · adversarial suffixes (GCG) · multi-turn escalation

## Related topics

Untyped, symmetric "see also" links.

- [Klasyfikatory bezpieczeństwa wejścia i wyjścia (Input and output safety classifiers)](https://aiatlasgraph.com/t/safetyclassifiers.md)
- [Red teaming modeli (ręczny i automatyczny) (Red teaming language models)](https://aiatlasgraph.com/t/redteaming.md)

## Sources

- [Jailbroken: How Does LLM Safety Training Fail?](<https://arxiv.org/abs/2307.02483>) `jailbroken-wei-2023` · by A. Wei, N. Haghtalab, J. Steinhardt
- [Universal and Transferable Adversarial Attacks on Aligned Language Models](<https://arxiv.org/abs/2307.15043>) `gcg-zou-2023` · by A. Zou, Z. Wang, N. Carlini, M. Nasr, J. Z. Kolter, M. Fredrikson
- [Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming](<https://arxiv.org/abs/2501.18837>) `constitutional-classifiers-2025` · by M. Sharma, M. Tong, J. Mu, J. Wei i in. (43 autorów; Anthropic), E. Perez

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/jailbreaks · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30