Osobne, zwykle mniejsze modele, które oceniają prompt i odpowiedź według taksonomii zagrożeń i blokują to, co niedozwolone. Można je dostosować do własnej listy kategorii.
Separate, usually smaller models that score the prompt and the response against a harm taxonomy and block what is not allowed. They can be adapted to a custom category list.
To osobne modele przypisujące treści do kategorii zagrożeń, żeby pomóc zdecydować, czy ją dopuścić.
These separate models assign content to risk categories to help decide whether it should be allowed.
Ręczne sprawdzanie każdej wiadomości i odpowiedzi nie nadąża za liczbą rozmów.
Manually checking every message and response cannot keep up with the number of conversations.
Klasyfikator ocenia wejście lub odpowiedź według ustalonych kategorii, a aplikacja wykorzystuje wynik do blokowania lub dalszej kontroli.
A classifier evaluates input or output against defined categories, and the application uses the result to block or review it.
Przed pokazaniem odpowiedzi mały model oznacza potencjalną groźbę i przekazuje ją do dodatkowej kontroli.
Before a response is displayed, a small model flags a potential threat and sends it for additional review.