Governance i zarządzanie ryzykiem
Governance and risk management · id governance
Odpowiedzialność, polityki, dokumentacja i incydenty.
Accountability, policies, documentation and incidents.
In one sentence
To ustalanie odpowiedzialności, zasad i sposobu reagowania na ryzyko związane z używaniem modeli.
This establishes responsibilities, rules and responses to risks arising from model use.
Problem it solves
Po błędzie systemu nie wiadomo, kto powinien go zbadać, podjąć decyzję i zmienić sposób działania.
After a system error, nobody knows who should investigate, decide or change how it operates.
What it does
Organizacja przypisuje właścicieli, dokumentuje zastosowania i ryzyka, ustala kontrole oraz procedury zgłaszania i obsługi incydentów.
An organisation assigns owners, documents uses and risks, establishes controls and sets procedures for reporting and handling incidents.
Everyday example
W zespole ustalacie, kto zatwierdza nowy model i kto zatrzyma jego użycie po wykryciu wycieku danych.
Your team agrees who approves a new model and who stops its use if a data leak is found.
This concerns you if you…
- modele są używane przez cały zespół
- potrzebujesz jasnych zasad odpowiedzialności
- use models across a team
- need clear accountability rules
Examples
- AI policies · risk register · audyt
- AI policies · risk register · audit
Subtopics
- Dokumentacja modeli i danych (karty modeli) (Model and dataset documentation): Short, standardised documents shipped with a model or dataset: intended use, limitations, evaluation procedure, results across groups, data origin and composition.
- Polityki bezpieczeństwa modeli granicznych (Frontier AI safety policies): Public commitments by companies building the most capable models: which dangerous-capability thresholds they test for, which safeguards then apply, and when they would pause deployment or development.
- Ramy zarządzania ryzykiem AI (NIST AI RMF, ISO/IEC 42001) (AI risk management frameworks): Voluntary frameworks and standards for organising AI risk management: who is accountable, how to map and measure risks, how to respond. ISO/IEC 42001 specifies an organisational AI management system.
- Regulacje AI i klasy ryzyka (AI Act) (AI regulation and risk tiers (EU AI Act)): Law that sorts AI systems by risk level — prohibited practices, high risk, transparency obligations, minimal risk — with separate duties for general-purpose model providers. In the EU the rules phase in over 2025–2028.
Sources