# Nadzór nad modelami generatywnymi w bankach EN: **Generative AI risk management in financial institutions** · id `genaimrmfin` · aliases: GenAI model risk, LLM risk management in banking, AI model risk management, generative AI governance in finance, nadzór nad GenAI w bankach Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [AI w finansach](https://aiatlasgraph.com/t/finance.md) › [Zarządzanie ryzykiem modeli w instytucjach finansowych](https://aiatlasgraph.com/t/modelriskmgmt.md) › Nadzór nad modelami generatywnymi w bankach ## Description - PL: Rozszerzenie zarządzania ryzykiem modeli na AI generatywną: inwentarz AI, ocena istotności, testy pod przypadek użycia, guardrails, nadzór ludzki i kontrola dostawców. - EN: Extending model risk management to generative AI: AI inventory, materiality assessment, use-case testing, guardrails, human oversight and vendor controls. ## In one sentence - PL: Zasady, jak bank sprawdza i ogranicza czatboty oraz inne modele generatywne, zanim pozwoli im pracować na danych klientów. - EN: Rules for how a bank tests and restrains chatbots and other generative models before letting them work with customer data. ## Problem it solves - PL: Stare zasady kontroli modeli powstały dla wzorów liczących ryzyko, a model językowy może zmyślać, ujawnić dane i zmieniać się z każdą aktualizacją dostawcy. - EN: Old model controls were built for risk formulas, while a language model can make things up, leak data and change with each vendor update. ## What it does - PL: Zamiast jednorazowego egzaminu daje modelowi kaganiec i opiekuna: filtry na wejściu i wyjściu, testy pod konkretne zadanie i człowieka zatwierdzającego decyzje. - EN: Instead of a one-off exam it gives the model a muzzle and a minder: input and output filters, task-specific tests and a human approving decisions. ## Everyday example - PL: Asystent pomaga pracownikom banku streszczać umowy, ale nie odpowiada klientom bezpośrednio, a każdy jego wniosek przed wysłaniem czyta człowiek. - EN: An assistant helps bank staff summarise contracts but never answers customers directly, and a person reads each conclusion before it goes out. ## This concerns you if you… - PL: wdrażasz czatbota lub asystenta w instytucji finansowej - PL: oceniasz ryzyko narzędzia AI kupionego od dostawcy - EN: roll out a chatbot or assistant at a financial firm - EN: assess the risk of an AI tool bought from a vendor ## Keywords MAS AI model risk management · AI inventory · risk materiality assessment · LLM evaluation · guardrails · human-in-the-loop · third-party AI risk · hallucination · EU AI Act ## How it works - PL: Instytucja prowadzi inwentarz zastosowań AI z zatwierdzonym zakresem, ocenia istotność według wpływu na klientów, złożoności, autonomii i udziału człowieka. Modele generatywne testuje się na zadaniach docelowych modułami wielokrotnego użytku, stosuje filtry wejścia i wyjścia, wdrożenia prywatne oraz wymóg ludzkiej akceptacji. Wobec modeli dostawców dodaje się testy kompensacyjne i klauzule umowne. - EN: The institution keeps an inventory of AI uses with approved scope and assesses materiality by customer impact, complexity, autonomy and human involvement. Generative models are tested on target tasks with reusable modules, with input and output filters, private deployment and required human sign-off. For vendor models, compensating tests and contract clauses are added. ## Limits - PL: Dla otwartych odpowiedzi brakuje jednej ustalonej miary jakości, więc testy trzeba dobierać do zadania i uzupełniać oceną człowieka. Modele dostawców mogą zmieniać się bez pełnej przejrzystości, co utrudnia monitoring. Praktyki nadzorcze nadal dojrzewają wraz z technologią. - EN: Open-ended answers lack a single settled quality measure, so tests must be tailored to the task and supplemented by human assessment. Vendor models may change without full transparency, complicating monitoring. Supervisory practice is still maturing with the technology. ## Key terms - PL: **inwentarz AI**: Rejestr wszystkich zastosowań AI z zatwierdzonym zakresem użycia. - PL: **istotność ryzyka**: Jak poważne mogą być skutki błędu danego zastosowania. - PL: **guardrails**: Filtry i reguły ograniczające wejścia i odpowiedzi modelu. - EN: **AI inventory**: A register of all AI uses with their approved scope. - EN: **risk materiality**: How serious the consequences of an error in a use can be. - EN: **guardrails**: Filters and rules restricting a model's inputs and outputs. ## Know first - [Guardrails (Guardrails and output control)](https://aiatlasgraph.com/t/guardrails.md) - [Wykrywanie halucynacji (Hallucination detection)](https://aiatlasgraph.com/t/hallucinationdetect.md) ## Related topics Untyped, symmetric "see also" links. - [Guardrails (Guardrails and output control)](https://aiatlasgraph.com/t/guardrails.md) ## Sources - [Artificial Intelligence (AI) Model Risk Management]() `mas-ai-mrm-2024-klgates` · by Monetary Authority of Singapore --- AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/genaimrmfin · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30