# Ewaluacje bezpieczeństwa modeli EN: **AI safety evaluations** · id `safetyevals` Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › Ewaluacje bezpieczeństwa modeli ## Description - PL: Celowe szukanie szkodliwych zachowań i groźnych zdolności modelu przed wdrożeniem i po nim — przez ludzi, inne modele i ustandaryzowane testy. - EN: Deliberately probing a model for harmful behaviour and dangerous capabilities before and after deployment — by people, other models and standardised tests. ## In one sentence - PL: To testy szukające szkodliwych zachowań i niebezpiecznych możliwości modelu przed udostępnieniem oraz podczas używania. - EN: These tests look for harmful behaviour and dangerous model capabilities before release and during use. ## Problem it solves - PL: Dobre wyniki zwykłych zadań nie pokazują, czy model ujawni dane albo pomoże w niebezpiecznym działaniu. - EN: Good performance on ordinary tasks does not reveal whether a model will expose data or assist dangerous activity. ## What it does - PL: Ludzie, modele i przygotowane scenariusze sprawdzają trudne przypadki, a wyniki pomagają dobrać zabezpieczenia oraz warunki udostępnienia. - EN: People, models and prepared scenarios test difficult cases, helping determine safeguards and release conditions. ## Everyday example - PL: Przed uruchomieniem asystenta sprawdzasz, jak reaguje na prośby o prywatne dane i próby wykonania niedozwolonych działań. - EN: Before launching an assistant, you test its response to requests for private information and attempts at prohibited actions. ## This concerns you if you… - PL: udostępniasz nowy model lub jego wersję - PL: chcesz sprawdzać zabezpieczenia w trakcie używania - EN: release a new model or version - EN: want to test safeguards during operation ## Keywords dangerous capability testing · AI red teaming · attack success rate · capability elicitation · adversarial test suites · safety regression testing · agent scaffolding · threat coverage ## How it works - PL: Model zagrożeń przekłada się na scenariusze, warunki dostępu i mierzalne kryteria szkody. Próby porównują zachowanie systemu z zabezpieczeniami i w kontrolowanych wariantach, a wyniki aktualizują decyzje o ograniczeniach oraz dalszym badaniu. - EN: A threat model becomes scenarios, access conditions and measurable harm criteria. Trials compare system behaviour with safeguards and controlled variants, updating decisions about restrictions and further investigation. ## Limits - PL: Testy obejmują wybrane możliwości i warunki, a nie wszystkie przyszłe szkody. Niewydobyte zdolności lub nieodpowiedni scaffold zaniżają ocenę; rzadkie zachowania wymagają wielu prób i analizy niepewności. - EN: Tests cover selected capabilities and conditions, not all future harms. Unelicited abilities or unsuitable scaffolds understate risks; rare behaviours require repeated trials and uncertainty analysis. ## Key terms - PL: **scenariusz zagrożenia**: Kontrolowana sytuacja testowa reprezentująca określoną drogę szkody. - PL: **elicitation**: Dobór warunków pozwalający ujawnić badaną zdolność modelu. - EN: **threat scenario**: A controlled test situation representing a specified harm pathway. - EN: **elicitation**: Selecting conditions that reveal the model capability under investigation. ## Know first - [Frameworki do uruchamiania ewaluacji (Evaluation harnesses and frameworks)](https://aiatlasgraph.com/t/evalharness.md) - [Niepewność statystyczna wyników ewaluacji (Statistical uncertainty in evaluations)](https://aiatlasgraph.com/t/evalstats.md) ## Examples - PL: red teaming · ewaluacje niebezpiecznych zdolności · testy przed wdrożeniem - EN: red teaming · dangerous capability evaluations · pre-deployment testing ## Subtopics (5 direct, 5 in total) - [Ewaluacje niebezpiecznych zdolności (cyber, bio, autonomia) (Dangerous capability evaluations)](https://aiatlasgraph.com/t/dangerouscapevals.md): Tests of whether a model can meaningfully help with dangerous activities — cyberattacks, biological or chemical weapons, persuasion, self-proliferation or automating AI research. Results trigger thresholds in companies' safety policies. - [Red teaming modeli (ręczny i automatyczny) (Red teaming language models)](https://aiatlasgraph.com/t/redteaming.md): Attacking your own model to find harmful outputs before users do: manually by tester teams, or automatically with one model generating attacks against another. - [Samocena rozmowy pod kątem nadużyć (Conversation self-assessment for misuse detection)](https://aiatlasgraph.com/t/selfassessment.md): After responding, the model generates a short safety assessment of its own conversation, reusing the already computed context. - [Sondy aktywacji do wykrywania niepokojących wzorców (Activation probes for detecting concerning model behavior)](https://aiatlasgraph.com/t/activationprobesafety.md): Lightweight classifiers analysing the model's internal activations for patterns associated with undesirable behaviour. - [Wielowarstwowe monitorowanie agentów (Multi-layer monitoring for agent misalignment)](https://aiatlasgraph.com/t/multilayeragentmonitor.md): A cascade of monitors from cheap activation probes, through model reviewers, to investigative agents analysing full transcripts and logs. ## Related topics Untyped, symmetric "see also" links. - [Metryki i benchmarki (Metrics and benchmarks)](https://aiatlasgraph.com/t/metrics.md) ## Sources - [International AI Safety Report 2026]() `international-ai-safety-report-2026` · by Panel ponad 100 ekspertów pod przewodnictwem Yoshuy Bengio; Expert Advisory Panel z przedstawicielami 30+ państw i organizacji - [Technical AI Safety — BlueDot Impact course]() `bluedot-technical-ai-safety` · by BlueDot Impact - [Red Teaming Language Models to Reduce Harms: Methods, Scaling Behaviors, and Lessons Learned]() `red-teaming-ganguli-2022` · by D. Ganguli, L. Lovitt, J. Kernion, A. Askell i in. (36 autorów; Anthropic) - [Evaluating Frontier Models for Dangerous Capabilities]() `dangerous-capability-evals-2024` · by M. Phuong, M. Aitchison, E. Catt, S. Cogan i in. (27 autorów; Google DeepMind), T. Shevlane --- AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/safetyevals · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30