Projektowanie na wypadek błędów AI

Error handling and graceful failure · id gracefulfailure

Zakładanie z góry, że AI się pomyli, i planowanie, jak użytkownik to zauważy, naprawi i wróci do zadania — proporcjonalnie do stawki błędu.

Assuming up front that the AI will be wrong and planning how users notice, correct and resume — in proportion to what is at stake.

In one sentence

To przygotowanie funkcji na pomyłki modelu, żeby użytkownik mógł je zauważyć, naprawić i wrócić do zadania.

This prepares a feature for model mistakes so users can notice, correct them and return to their task.

Problem it solves

Błędna odpowiedź może przerwać pracę lub spowodować szkodę, jeśli użytkownik nie ma sposobu sprawdzenia i poprawienia wyniku.

An incorrect answer can interrupt work or cause harm if users cannot check and correct the result.

What it does

Planuje komunikaty, poprawki, wycofanie lub pomoc człowieka, dobierając reakcję do możliwych skutków pomyłki.

It plans messages, corrections, undo or human assistance, matching the response to the possible consequences of a mistake.

Everyday example

Asystent nie potrafi odczytać terminu z dokumentu, więc oznacza pole do sprawdzenia i pozwala wpisać termin ręcznie.

An assistant cannot read a deadline from a document, so it marks the field for checking and allows manual entry.

This concerns you if you…

Examples

Related topics

Sources