# Klasyfikatory bezpieczeństwa wejścia i wyjścia

EN: **Input and output safety classifiers** · id `safetyclassifiers`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Guardrails](https://aiatlasgraph.com/t/guardrails.md) › Klasyfikatory bezpieczeństwa wejścia i wyjścia

## Description

- PL: Osobne, zwykle mniejsze modele, które oceniają prompt i odpowiedź według taksonomii zagrożeń i blokują to, co niedozwolone. Można je dostosować do własnej listy kategorii.
- EN: Separate, usually smaller models that score the prompt and the response against a harm taxonomy and block what is not allowed. They can be adapted to a custom category list.

## In one sentence

- PL: To osobne modele przypisujące treści do kategorii zagrożeń, żeby pomóc zdecydować, czy ją dopuścić.
- EN: These separate models assign content to risk categories to help decide whether it should be allowed.

## Problem it solves

- PL: Ręczne sprawdzanie każdej wiadomości i odpowiedzi nie nadąża za liczbą rozmów.
- EN: Manually checking every message and response cannot keep up with the number of conversations.

## What it does

- PL: Klasyfikator ocenia wejście lub odpowiedź według ustalonych kategorii, a aplikacja wykorzystuje wynik do blokowania lub dalszej kontroli.
- EN: A classifier evaluates input or output against defined categories, and the application uses the result to block or review it.

## Everyday example

- PL: Przed pokazaniem odpowiedzi mały model oznacza potencjalną groźbę i przekazuje ją do dodatkowej kontroli.
- EN: Before a response is displayed, a small model flags a potential threat and sends it for additional review.

## This concerns you if you…

- PL: sprawdzasz duże ilości treści
- PL: potrzebujesz własnych kategorii niedozwolonych odpowiedzi
- EN: review large amounts of content
- EN: need your own prohibited-response categories

## Keywords

Llama Guard · Constitutional Classifiers · harm taxonomies · false positive rate · false negative rate · input-output moderation

## How it works

- PL: Osobny model przypisuje fragmentowi wejścia lub wyjścia kategorie z taksonomii zagrożeń. Progi i reguły decyzji zamieniają wynik klasyfikacji na blokadę albo eskalację, a dane testowe sprawdzają trafność dla różnych kontekstów.
- EN: A separate model assigns input or output content to threat-taxonomy categories. Thresholds and decision rules turn classifications into blocking or escalation, while test data checks accuracy across contexts.

## Limits

- PL: Niejednoznaczna treść, zmiana języka i kontekstu powodują błędy. Nowe zagrożenia wymagają aktualizacji taksonomii oraz danych; trafność klasyfikatora nie dowodzi bezpieczeństwa całego procesu.
- EN: Ambiguous content, language changes and context produce errors. New threats require taxonomy and data updates; classifier accuracy does not establish whole-workflow safety.

## Key terms

- PL: **taksonomia zagrożeń**: Zestaw zdefiniowanych kategorii używanych do oceny niedopuszczalnych treści.
- PL: **fałszywa blokada**: Odrzucenie treści, która powinna być dopuszczona przez politykę.
- EN: **threat taxonomy**: Defined categories used to assess unacceptable content.
- EN: **false block**: Rejecting content that the policy should permit.

## Know first

- [Uczenie nadzorowane (Supervised learning)](https://aiatlasgraph.com/t/supervised.md)
- [Metryki klasyfikacji i regresji (Classification and regression metrics)](https://aiatlasgraph.com/t/classmetrics.md)

## Examples

- PL: Llama Guard · klasyfikatory konstytucyjne · API moderacji
- EN: Llama Guard · constitutional classifiers · moderation APIs

## Related topics

Untyped, symmetric "see also" links.

- [Jailbreaki — obchodzenie zabezpieczeń modelu (Jailbreaking)](https://aiatlasgraph.com/t/jailbreaks.md)
- [Trening według zasad (Constitutional AI, RLAIF) (Constitutional AI and RL from AI feedback)](https://aiatlasgraph.com/t/constitutionalai.md)

## Sources

- [Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations](<https://arxiv.org/abs/2312.06674>) `llama-guard-2023` · by H. Inan, K. Upasani, J. Chi, R. Rungta i in. (11 autorów; Meta), M. Khabsa
- [Constitutional Classifiers: Defending against Universal Jailbreaks across Thousands of Hours of Red Teaming](<https://arxiv.org/abs/2501.18837>) `constitutional-classifiers-2025` · by M. Sharma, M. Tong, J. Mu, J. Wei i in. (43 autorów; Anthropic), E. Perez

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/safetyclassifiers · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30