# Monitor interwencji krokowej dla agentów EN: **Step-level timely intervention monitors for agents** · id `stepsafe` Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › [Bezpieczeństwo agentów: uprawnienia i izolacja](https://aiatlasgraph.com/t/agentsecurity.md) › Monitor interwencji krokowej dla agentów ## Description - PL: Monitor rozumujący na poziomie kroku, który przed każdą akcją agenta wybiera CONTINUE, ASK albo STOP i jest uczony metodą Adaptive Stage-Aligned Policy Optimization (ASPO). - EN: A step-level reasoning guardrail that chooses CONTINUE, ASK or STOP before each agent action and is trained with Adaptive Stage-Aligned Policy Optimization (ASPO). ## In one sentence - PL: Monitor, który przed każdym krokiem agenta decyduje, czy kontynuować, zapytać czy zatrzymać, żeby uniknąć szkody we właściwym momencie. - EN: A monitor that before each agent step decides whether to continue, ask or stop, to avoid harm at the right moment. ## Problem it solves - PL: Agent może wykonać szkodliwą akcję, zanim ktoś zdąży zareagować, albo monitor zatrzymuje go zbyt często i psuje pracę. - EN: An agent can perform a harmful action before anyone reacts, or the monitor stops it too often and ruins the work. ## What it does - PL: Sprawdza historię i proponowaną akcję, porównuje z etapem ryzyka i wybiera kontynuację, pytanie albo stop. - EN: It checks the history and proposed action, compares them to the risk stage and chooses continue, ask or stop. ## Everyday example - PL: Agent przygotowuje przelew na podstawie maila; monitor widzi podejrzany adres i prosi o potwierdzenie zanim wyśle. - EN: An agent prepares a transfer based on an email; the monitor sees a suspicious address and asks for confirmation before sending. ## This concerns you if you… - PL: agent wykonuje akcje na narzędziach lub danych - PL: chcesz zatrzymywać ryzyko bez ciągłego blokowania - EN: let an agent act on tools or data - EN: want to stop risk without constant blocking ## Keywords step-level guardrail · timely intervention · agent safety monitoring · adaptive stage-aligned policy optimization · ASPO · SAPO · AFSD · Youden's J · ASSEBench ## How it works - PL: ASPO łączy dwa sygnały treningowe. SAPO porównuje odpowiedzi próbkowane dla tego samego prefiksu i premiuje decyzję zgodną z etapem ryzyka: kontynuację przed pojawieniem się sygnału, pytanie w oknie wyjaśnienia oraz zatrzymanie najpóźniej w ostatnim kroku zapobiegającym szkodzie. AFSD samodestyluje uzasadnienia na poziomie tokenów z adnotowanych werdyktów dla kroków wymagających interwencji i z reguł wydobytych z fałszywych alarmów modelu na krokach bezpiecznych. Dane treningowe zawierają taksonomię naruszeń i okna interwencji oraz są rozszerzane wieloagentowym red teamingiem. - EN: ASPO combines two training signals. SAPO compares responses sampled at the same prefix and rewards the decision that matches the risk stage: continuing before a signal appears, asking during the clarification window, and stopping no later than the last preventable step. AFSD self-distils token-level reasoning from annotated verdicts on intervention steps and rules mined from the model's own false alarms on safe steps. Training data include a violation taxonomy and intervention windows and are extended through multi-agent red-teaming. ## Limits - PL: Metoda zależy od okien interwencji oznaczanych i weryfikowanych przez modele językowe, więc może nie obejmować nowych zachowań agentów i może dziedziczyć błędy adnotatora. Ewaluacja używa także syntetycznych trajektorii red-teamingowych, a użyteczność offline mierzy brak alarmu, nie ukończenie zadania na żywo. To nie jest formalna gwarancja bezpieczeństwa; potrzebne są również kontrola dostępu, sandboxing, monitoring i nadzór człowieka nad istotnymi działaniami. - EN: The method depends on intervention windows labelled and verified by language models, so it may miss novel agent behaviours and inherit annotator errors. Evaluation also uses synthetic red-teamed trajectories, while offline utility measures absence of alarms rather than live task completion. It is not a formal safety guarantee; access controls, sandboxing, monitoring and human oversight of consequential actions are also required. ## Key terms - PL: **ASPO**: Adaptacyjna optymalizacja polityki dopasowana do etapu; rama łącząca kredyt decyzji SAPO z kredytem tokenowym AFSD. - PL: **SAPO**: Składnik ASPO porównujący decyzje dla tego samego prefiksu i dopasowujący je do etapu ryzyka. - PL: **AFSD**: Adaptacyjna samodestylacja informacji zwrotnej, która uczy uzasadnienia z adnotacji oraz reguł wydobytych z fałszywych alarmów. - EN: **ASPO**: Adaptive Stage-Aligned Policy Optimization; the framework combining SAPO decision credit with AFSD token credit. - EN: **SAPO**: The ASPO component that compares decisions at the same prefix and aligns them with the risk stage. - EN: **AFSD**: Adaptive Feedback Self-Distillation, which teaches reasoning from annotations and rules mined from false alarms. ## Know first - [Guardrails (Guardrails and output control)](https://aiatlasgraph.com/t/guardrails.md) - [Alignment i safety (Alignment and safety)](https://aiatlasgraph.com/t/alignment.md) ## Related topics Untyped, symmetric "see also" links. - [Guardrails (Guardrails and output control)](https://aiatlasgraph.com/t/guardrails.md) - [Mechanistyczne sterowanie bezpieczeństwem agentów CLI (Mechanistic subspace safety steering for multi-turn agents)](https://aiatlasgraph.com/t/mechsuits.md) ## Sources - [StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning]() `stepsafe-arxiv-2610.20960` · by Siyi Gu, Kunhan Gao, Chao Peter Yang, Sukanta Ganguly, Rex Ying, Arman Cohan (Yale University, NetApp) --- AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/stepsafe · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30