Zgodność intencji z wykonaniem narzędzia

Tool-call intent–execution correspondence · id intentexecution · aliases: IEC, intent-execution integrity, tool call fidelity

Własność, że działanie faktycznie wykonane przez narzędzie odpowiada działaniu zapisanemu w wywołaniu zgodnie z kontraktem narzędzia.

The property that the action actually executed by a tool matches the action denoted by the call under the tool contract.

In one sentence

Sprawdzenie, czy narzędzie wykonało dokładnie to, co asystent chciał, a nie coś zmienionego po drodze.

A check that a tool did exactly what the assistant meant, not something changed along the way.

Problem it solves

Asystent wydaje polecenie, ale po drodze się zmienia i działa źle, a błąd przypisuje się modelowi.

An assistant issues a command, but it changes along the way and acts wrongly, and the model gets the blame.

What it does

Obserwuje kolejne przekazania wywołania, wskazuje pierwszą warstwę, która zmieniła jego znaczenie, a następnie dostarcza je w bezpieczniejszej formie albo odrzuca.

Observes successive hand-offs of a call, identifies the first layer that changed its meaning, and then delivers it in a safer form or refuses it.

Everyday example

Asystent każe uruchomić program z wieloma liniami. Uprząż sprawdza, czy polecenie nie zostało skrócone, i naprawia je.

The assistant asks to run a multi-line program. The harness checks that the command was not cut short and repairs it.

This concerns you if you…

Related topics

Sources