# Bezpieczeństwo agentów: uprawnienia i izolacja

EN: **AI agent security** · id `agentsecurity`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › Bezpieczeństwo agentów: uprawnienia i izolacja

## Description

- PL: Projektowanie agentów tak, by przejęty model nie mógł wyrządzić szkody: minimalne uprawnienia, izolacja wykonania kodu, oddzielenie zaufanych poleceń od niezaufanych danych, potwierdzenia przed ryzykownymi akcjami.
- EN: Designing agents so that a compromised model cannot cause harm: least privilege, sandboxed code execution, separating trusted instructions from untrusted data, confirmations before risky actions.

## In one sentence

- PL: To ograniczanie uprawnień i izolowanie działań agenta, żeby pomyłka lub przejęcie nie miały swobodnego dostępu do systemu.
- EN: This restricts an agent's permissions and isolates its actions so mistakes or compromise cannot freely affect the system.

## Problem it solves

- PL: Agent potrafi wykonać polecenie, które usunie pliki, ujawni dane lub zmieni więcej, niż chciałeś.
- EN: An agent can perform an action that deletes files, exposes data or changes more than you intended.

## What it does

- PL: Dostaje tylko potrzebne uprawnienia, pracuje w wydzielonym środowisku, a istotne działania przechodzą przez niezależną kontrolę i potwierdzenie.
- EN: It receives only necessary permissions, works in an isolated environment, and consequential actions pass independent checks and confirmation.

## Everyday example

- PL: Agent przygotowuje poprawkę w wydzielonym katalogu, a wysłanie jej do wspólnego systemu wymaga zatwierdzenia.
- EN: An agent prepares a change in an isolated directory, while sending it to a shared system requires approval.

## This concerns you if you…

- PL: agent może uruchamiać kod lub zmieniać pliki
- PL: chcesz ograniczyć skutki błędnych poleceń
- EN: let an agent execute code or modify files
- EN: want to limit the impact of mistaken instructions

## Keywords

least privilege · sandboxing · capability-based security · plan-then-execute · dual LLM pattern · action allowlists · OWASP Agentic Top 10

## How it works

- PL: Sterownik rozdziela zaufany cel od pobieranych danych i sprawdza każdą akcję względem polityki. Narzędzia używają ograniczonych tożsamości, a sandbox oraz kontrola przepływu danych ograniczają wykonanie i przekazywanie informacji poza właściwy zakres.
- EN: A controller separates trusted goals from retrieved data and checks each action against policy. Tools use restricted identities, while sandboxes and data-flow controls limit execution and information transfer beyond the intended scope.

## Limits

- PL: Tekstowe zakazy nie zastępują kontroli w narzędziu. Integracje muszą zachować ograniczenia między etapami i agentami; zgodny format wywołania nie dowodzi zgodności celu ani prawa dostępu.
- EN: Textual prohibitions cannot replace tool-side enforcement. Integrations must preserve restrictions across stages and agents; valid call formats prove neither goal alignment nor access rights.

## Key terms

- PL: **sandbox**: Izolowane środowisko ograniczające dostęp wykonywanego kodu do zasobów.
- PL: **capability**: Ograniczone uprawnienie pozwalające wykonać określoną operację na wskazanym zasobie.
- EN: **sandbox**: An isolated environment restricting executed code's resource access.
- EN: **capability**: A restricted permission for a specified operation on a designated resource.

## Know first

- [Structured outputs i walidacja (Structured outputs and validation)](https://aiatlasgraph.com/t/structured.md)
- [Prywatność i prawa do danych (Privacy and data rights)](https://aiatlasgraph.com/t/privacy.md)

## Examples

- PL: nadmierna sprawczość · sandboxing · wzorzec plan-then-execute · dual LLM
- EN: excessive agency · sandboxing · plan-then-execute pattern · dual LLM

## Subtopics (2 direct, 2 in total)

- [Mechanistyczne sterowanie bezpieczeństwem agentów CLI (Mechanistic subspace safety steering for multi-turn agents)](https://aiatlasgraph.com/t/mechsuits.md): An experimental white-box method detects harmful execution states of multi-turn CLI agents from hidden representations and intervenes in ten selected dimensions of a single layer.
- [Monitor interwencji krokowej dla agentów (Step-level timely intervention monitors for agents)](https://aiatlasgraph.com/t/stepsafe.md): A step-level reasoning guardrail that chooses CONTINUE, ASK or STOP before each agent action and is trained with Adaptive Stage-Aligned Policy Optimization (ASPO).

## Related topics

Untyped, symmetric "see also" links.

- [Agenci i orkiestracja (Agents and orchestration)](https://aiatlasgraph.com/t/agentsnode.md)
- [Agenci przy komputerze (Computer and browser use)](https://aiatlasgraph.com/t/computeruse.md)
- [AI w zespole reagowania (SOC) (AI for security operations (SOC))](https://aiatlasgraph.com/t/secopsai.md)
- [Podgląd aktualizacji dla bezpiecznego dostrajania (Update-preview defense for safe fine-tuning)](https://aiatlasgraph.com/t/lookaheaddefense.md)
- [Pośrednie wstrzykiwanie promptu (przez dokumenty i narzędzia) (Indirect prompt injection)](https://aiatlasgraph.com/t/indirectinjection.md)
- [Zgodność intencji z wykonaniem narzędzia (Tool-call intent–execution correspondence)](https://aiatlasgraph.com/t/intentexecution.md)

## Sources

- [OWASP Top 10 for LLM Applications 2025](<https://genai.owasp.org/llm-top-10/>) `owasp-llm-top10-2025` · by OWASP Gen AI Security Project
- [OWASP Top 10 for Agentic Applications (announcement)](<https://genai.owasp.org/2025/12/09/owasp-top-10-for-agentic-applications-the-benchmark-for-agentic-security-in-the-age-of-autonomous-ai/>) `owasp-agentic-top10` · by OWASP Gen AI Security Project (m.in. J. Sotiropoulos, K. Katz, R. F. Del Rosario)
- [Defeating Prompt Injections by Design](<https://arxiv.org/abs/2503.18813>) `camel-debenedetti-2025` · by E. Debenedetti, I. Shumailov, T. Fan, J. Hayes, N. Carlini, D. Fabian, C. Kern, C. Shi, A. Terzis, F. Tramèr
- [Design Patterns for Securing LLM Agents against Prompt Injections](<https://arxiv.org/abs/2506.08837>) `design-patterns-agent-security-2025` · by L. Beurer-Kellner, B. Buesser, A.-M. Creţu, E. Debenedetti i in. (14 autorów), F. Tramèr, V. Volhejn

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/agentsecurity · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30