Projektowanie agentów tak, by przejęty model nie mógł wyrządzić szkody: minimalne uprawnienia, izolacja wykonania kodu, oddzielenie zaufanych poleceń od niezaufanych danych, potwierdzenia przed ryzykownymi akcjami.
Designing agents so that a compromised model cannot cause harm: least privilege, sandboxed code execution, separating trusted instructions from untrusted data, confirmations before risky actions.
To ograniczanie uprawnień i izolowanie działań agenta, żeby pomyłka lub przejęcie nie miały swobodnego dostępu do systemu.
This restricts an agent's permissions and isolates its actions so mistakes or compromise cannot freely affect the system.
Agent potrafi wykonać polecenie, które usunie pliki, ujawni dane lub zmieni więcej, niż chciałeś.
An agent can perform an action that deletes files, exposes data or changes more than you intended.
Dostaje tylko potrzebne uprawnienia, pracuje w wydzielonym środowisku, a istotne działania przechodzą przez niezależną kontrolę i potwierdzenie.
It receives only necessary permissions, works in an isolated environment, and consequential actions pass independent checks and confirmation.
Agent przygotowuje poprawkę w wydzielonym katalogu, a wysłanie jej do wspólnego systemu wymaga zatwierdzenia.
An agent prepares a change in an isolated directory, while sending it to a shared system requires approval.