Guardrails

Guardrails and output control · id guardrails

Blokady i filtry na wejściu i wyjściu modelu.

Blocks and filters on the model's input and output.

In one sentence

To dodatkowe kontrole ograniczające, jakie dane model przyjmuje, jakie odpowiedzi oddaje i jakie działania wykonuje.

These additional checks limit what data a model accepts, what responses it returns and which actions it performs.

Problem it solves

Sam model nie zawsze przestrzega reguł aplikacji, a jego odpowiedzi mogą zawierać niedozwolone treści.

A model does not always follow application rules, and its responses may contain prohibited content.

What it does

Filtry i reguły sprawdzają wejście, przebieg oraz wynik, kierując rozmowę lub blokując wybrane zdarzenia; ich skuteczność wymaga testów.

Filters and rules check inputs, workflow and outputs, redirecting conversation or blocking selected events; their effectiveness needs testing.

Everyday example

Asystent sklepu sprawdza, czy odpowiedź nie zawiera danych innego klienta, zanim pokaże ją rozmówcy.

A shop assistant checks that a response contains no other customer's data before showing it to the caller.

This concerns you if you…

Examples

Subtopics

Related topics

Sources