# Wielowarstwowe monitorowanie agentów

EN: **Multi-layer monitoring for agent misalignment** · id `multilayeragentmonitor` · aliases: multi-layer agent monitoring, frontier model monitoring

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Ewaluacje bezpieczeństwa modeli](https://aiatlasgraph.com/t/safetyevals.md) › Wielowarstwowe monitorowanie agentów

## Description

- PL: Kaskada monitorów od tanich sond aktywacji, przez recenzentów modeli, po agentów śledczych analizujących pełne transkrypty i logi.
- EN: A cascade of monitors from cheap activation probes, through model reviewers, to investigative agents analysing full transcripts and logs.

## In one sentence

- PL: To kilka poziomów sprawdzania, czy agent nie robi czegoś niepożądanego — od szybkiego skanu po głęboką analizę.
- EN: This is several levels of checking whether an agent is doing something undesirable — from a quick scan to deep analysis.

## Problem it solves

- PL: Pojedynczy monitor jest albo zbyt drogi, albo za płytki, by wyłapać sekwencje działań prowadzące do ucieczki lub oszustwa.
- EN: A single monitor is either too expensive or too shallow to catch sequences of actions leading to escape or deception.

## What it does

- PL: Tanie sondy flagują przypadki, recenzent analizuje kontekst i narzędzia, a śledczy rekonstruują cały przebieg i sprawdzają logi.
- EN: Cheap probes flag cases, a reviewer analyses context and tools, and investigators reconstruct the full sequence and check logs.

## Everyday example

- PL: Podczas treningu sonda wyłapuje nietypowe aktywacje, recenzent widzi próbę dostępu do sieci, a śledczy potwierdza to logami i alarmuje człowieka w ciągu minut.
- EN: During training a probe catches unusual activations, a reviewer sees an attempt to access the network, and an investigator confirms it with logs and alerts a human within minutes.

## This concerns you if you…

- PL: prowadzisz treningi lub działanie silnych agentów z narzędziami
- PL: chcesz wykrywać problemy zanim wymkną się spod kontroli
- EN: run training or operation of strong agents with tools
- EN: want to detect problems before they get out of control

## Keywords

multi-layer monitoring · activation probes · model reviewer · investigative agents · misalignment detection · agent monitoring · asynchronous monitoring

## How it works

- PL: Warstwa 0: sondy aktywacji z wysokim recall i losową próbką. Warstwa 1: model-recenzent analizuje ostatni kontekst, tok rozumowania i użycie narzędzi. Warstwa 2: agenci śledczy czytają pełny przebieg i uruchamiają kod w izolacji. Warstwa 3: automatyczne dochodzenie porównuje ustalenia z logami sieciowymi i telemetrią; sprawy o najwyższym priorytecie trafiają do ludzi. Podczas treningu monitoring działa asynchronicznie, aby opóźnienie dochodzenia nie wpływało na dobór próbek ani presję optymalizacyjną.
- EN: Layer 0: activation probes tuned for high recall plus a random sample. Layer 1: a model reviewer examines recent context, chain of thought and tool use. Layer 2: investigative agents read the full trajectory and run code in isolation. Layer 3: automated investigation compares findings with network logs and telemetry; the highest-priority cases go to humans. During training, monitoring runs asynchronously so investigation latency does not affect sample selection or optimization pressure.

## Limits

- PL: Głębsze warstwy są kosztowne, sondy mogą przegapić nowe wzorce, a fałszywe alarmy ograniczają ciągłe alarmowanie ludzi. Monitoring musi mieć audytowalne pokrycie i być regularnie red-teamowany: niezależne testy historycznej wersji systemu OpenAI wykazały luki pokrycia i sposoby obchodzenia. OpenAI zgłosiło poprawki, ale METR nie zweryfikował późniejszej, rozszerzonej architektury.
- EN: Deeper layers are costly, probes can miss novel patterns, and false positives limit continuous human paging. Monitoring needs auditable coverage and regular red-teaming: independent tests of a historical version of OpenAI's system found coverage gaps and bypasses. OpenAI reported fixes, but METR did not validate the later expanded architecture.

## Key terms

- PL: **warstwa monitorowania**: Poziom sprawdzania o rosnącej głębokości i koszcie, od sond do śledztwa.
- PL: **agent śledczy**: Model analizujący pełny transkrypt i logi, by zrekonstruować co się stało.
- EN: **monitoring layer**: A checking level of increasing depth and cost, from probes to investigation.
- EN: **investigative agent**: A model analysing the full transcript and logs to reconstruct what happened.

## Know first

- [Monitorowanie łańcucha myśli (Chain-of-thought monitoring)](https://aiatlasgraph.com/t/cotmonitoring.md)
- [Bezpieczeństwo agentów: uprawnienia i izolacja (AI agent security)](https://aiatlasgraph.com/t/agentsecurity.md)

## Related topics

Untyped, symmetric "see also" links.

- [Sondy aktywacji do wykrywania niepokojących wzorców (Activation probes for detecting concerning model behavior)](https://aiatlasgraph.com/t/activationprobesafety.md)
- [Udawane dopasowanie i ukryte cele (alignment faking, scheming) (Alignment faking and scheming)](https://aiatlasgraph.com/t/scheming.md)

## Sources

- [How we detect frontier model misalignment](<https://openai.com/index/how-we-detect-frontier-model-misalignment/>) `openai-frontier-monitoring-2026` · by OpenAI
- [Red-Teaming OpenAI's Internal Agent Monitoring Systems](<https://metr.org/blog/2026-10-22-red-teaming-openai-monitoring/>) `metr-openai-monitoring-redteam-2026` · by David Rein, Adam Kaufman (METR)

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/multilayeragentmonitor · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30