Rozszerzenie zarządzania ryzykiem modeli na AI generatywną: inwentarz AI, ocena istotności, testy pod przypadek użycia, guardrails, nadzór ludzki i kontrola dostawców.
Extending model risk management to generative AI: AI inventory, materiality assessment, use-case testing, guardrails, human oversight and vendor controls.
Zasady, jak bank sprawdza i ogranicza czatboty oraz inne modele generatywne, zanim pozwoli im pracować na danych klientów.
Rules for how a bank tests and restrains chatbots and other generative models before letting them work with customer data.
Stare zasady kontroli modeli powstały dla wzorów liczących ryzyko, a model językowy może zmyślać, ujawnić dane i zmieniać się z każdą aktualizacją dostawcy.
Old model controls were built for risk formulas, while a language model can make things up, leak data and change with each vendor update.
Zamiast jednorazowego egzaminu daje modelowi kaganiec i opiekuna: filtry na wejściu i wyjściu, testy pod konkretne zadanie i człowieka zatwierdzającego decyzje.
Instead of a one-off exam it gives the model a muzzle and a minder: input and output filters, task-specific tests and a human approving decisions.
Asystent pomaga pracownikom banku streszczać umowy, ale nie odpowiada klientom bezpośrednio, a każdy jego wniosek przed wysłaniem czyta człowiek.
An assistant helps bank staff summarise contracts but never answers customers directly, and a person reads each conclusion before it goes out.