# Ataki przez prompt

EN: **Prompt attacks** · id `promptattacks`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › Ataki przez prompt

## Description

- PL: Przejęcie zachowania modelu treścią wejścia: wstrzyknięte polecenia, wyciąganie promptu lub danych, obchodzenie zabezpieczeń.
- EN: Hijacking model behaviour through input content: injected instructions, leaking the prompt or data, bypassing safeguards.

## In one sentence

- PL: To próby zmiany zachowania modelu przez treść, która nakłania go do złamania zasad lub ujawnienia danych.
- EN: These attempts use content to make a model break rules or reveal data.

## Problem it solves

- PL: Aplikacja może potraktować złośliwe słowa jako ważniejsze polecenie niż ustalone zasady i intencja użytkownika.
- EN: An application may treat malicious text as an instruction overriding its rules and the user's intent.

## What it does

- PL: Atak wykorzystuje trudność oddzielania instrukcji od danych lub słabość zabezpieczeń modelu, wpływając na odpowiedzi i wybór działań.
- EN: An attack exploits difficulty separating instructions from data or weaknesses in model safeguards, influencing responses and action choices.

## Everyday example

- PL: W teście złośliwa wiadomość próbuje nakłonić asystenta do ujawnienia prywatnego fragmentu rozmowy.
- EN: In a test, a malicious message tries to make an assistant reveal a private conversation fragment.

## This concerns you if you…

- PL: model przyjmuje treści spoza zaufanego źródła
- PL: chcesz sprawdzić odporność na manipulowanie poleceniami
- EN: accept model inputs from untrusted sources
- EN: want to test resistance to instruction manipulation

## Keywords

prompt injection · prompt leakage · instruction hierarchy · adversarial suffixes · tool output injection · context exfiltration · untrusted context

## How it works

- PL: Treść wejścia próbuje zmienić interpretację instrukcji, ujawnić kontekst lub skierować model ku niedozwolonemu zachowaniu. Mieszanie poleceń i danych w tej samej reprezentacji tekstowej pozwala atakowi wpływać na wybór odpowiedzi lub narzędzia.
- EN: Input content attempts to reinterpret instructions, reveal context or steer models towards prohibited behaviour. Mixing instructions and data within the same textual representation lets attacks influence answers or tool selection.

## Limits

- PL: Powodzenie zależy od modelu, kontekstu i dostępnych uprawnień. Wykrywanie podejrzanych słów nie obejmuje wszystkich form; obrona wymaga egzekwowania granic poza samym promptem.
- EN: Success depends on models, context and available permissions. Suspicious-word detection cannot cover every form; defence requires enforcing boundaries beyond prompts themselves.

## Key terms

- PL: **prompt injection**: Próba potraktowania niezaufanej treści jako instrukcji sterującej systemem.
- PL: **wyciek kontekstu**: Ujawnienie informacji wejściowych osobie, która nie powinna ich otrzymać.
- EN: **prompt injection**: An attempt to treat untrusted content as system-controlling instructions.
- EN: **context leakage**: Revealing input information to someone who should not receive it.

## Know first

- [Prompty i kontekst (Prompting and context engineering)](https://aiatlasgraph.com/t/prompting.md)
- [Structured outputs i walidacja (Structured outputs and validation)](https://aiatlasgraph.com/t/structured.md)

## Examples

- PL: prompt injection · prompt leaking · jailbreak

## Subtopics (2 direct, 2 in total)

- [Jailbreaki — obchodzenie zabezpieczeń modelu (Jailbreaking)](https://aiatlasgraph.com/t/jailbreaks.md): Prompts that get a model to break its own safety rules: role-play, obfuscated requests, low-resource languages, automatically searched adversarial suffixes. They work because the goals “be helpful” and “be safe” compete.
- [Pośrednie wstrzykiwanie promptu (przez dokumenty i narzędzia) (Indirect prompt injection)](https://aiatlasgraph.com/t/indirectinjection.md): The attacker never talks to the model — they hide instructions in a web page, email, file or tool result that the LLM application will fetch itself. Especially dangerous for RAG and agents, as it can lead to data theft or unwanted actions.

## Related topics

Untyped, symmetric "see also" links.

- [Red teaming modeli (ręczny i automatyczny) (Red teaming language models)](https://aiatlasgraph.com/t/redteaming.md)

## Sources

- [LLM Course (Maxime Labonne)](<https://github.com/mlabonne/llm-course>) `mlabonne-llm-course` · by Maxime Labonne
- [OWASP Top 10 for LLM Applications 2025](<https://genai.owasp.org/llm-top-10/>) `owasp-llm-top10-2025` · by OWASP Gen AI Security Project

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/promptattacks · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30