# Podgląd aktualizacji dla bezpiecznego dostrajania

EN: **Update-preview defense for safe fine-tuning** · id `lookaheaddefense` · aliases: LookAhead Defense, update-preview defense, obrona z podglądem aktualizacji

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › [Zatruwanie danych i backdoory](https://aiatlasgraph.com/t/poisoning.md) › Podgląd aktualizacji dla bezpiecznego dostrajania

## Description

- PL: Przewiduje i karze aktualizacje dostrajania osłabiające bezpieczne zachowanie z bufora.
- EN: Previews and penalizes fine-tuning updates that weaken safe behaviour from a buffer.

## In one sentence

- PL: Przed przyjęciem kroku dostrajania sprawdza, czy osłabi on bezpieczne zachowanie ukrycie zatrutego modelu.
- EN: Before accepting a fine-tuning step, it checks whether the update would weaken the apparently safe behavior of a dormantly poisoned model.

## Problem it solves

- PL: Ukryte szkodliwe zachowanie może pozostać nieaktywne przy wydaniu modelu i ujawnić się dopiero po zwykłym dostrajaniu.
- EN: A hidden harmful behavior can remain inactive at model release and emerge only after ordinary downstream fine-tuning.

## What it does

- PL: Buduje z wydanego modelu bufor odniesienia i karze tylko kandydackie aktualizacje przewidywane jako osłabiające bezpieczeństwo.
- EN: It builds a reference buffer from the released model and penalizes only candidate updates predicted to weaken safety.

## Everyday example

- PL: Dostrajasz agenta na zwykłych zadaniach matematycznych; podgląd aktualizacji ogranicza ryzyko, że uśpione zatrucie uaktywni wysyłanie poufnych danych.
- EN: You fine-tune an agent on ordinary math tasks; update preview limits the risk that dormant poisoning activates the sending of private data.

## This concerns you if you…

- PL: dostrajasz wydany model na własnych danych
- PL: martwisz się, że bezpieczny model stanie się niebezpieczny po fine-tuningu
- PL: agent ma dostęp do narzędzi i może wykonać szkodliwe akcje
- EN: fine-tune a released model on your own data
- EN: worry a safe model will become unsafe after fine-tuning
- EN: the agent has tool access and can perform harmful actions

## Keywords

LookAhead Defense · Safety Buffer · dormant poisoning · safe fine-tuning · update preview · over-refusal · agent poisoning

## How it works

- PL: Safety Buffer łączy szkodliwe wejścia z odpowiedziami wydanego modelu oraz łagodnymi wersjami wejść wygenerowanymi przez ten sam model. Każdy kandydacki krok jest przybliżany ruchem w kierunku znaku gradientu zadania. Kara pojawia się, gdy podgląd zmniejsza prawdopodobieństwo bezpiecznej odpowiedzi na szkodliwym wejściu albo zwiększa je dla łagodnej wersji, co sygnalizuje nadmierną odmowę.
- EN: The Safety Buffer pairs harmful inputs with the released model's responses and benign input versions generated by the same model. Each candidate step is approximated along the sign of the task gradient. A penalty is applied if the preview lowers the safe response probability on the harmful input or raises it on the benign version, indicating over-refusal.

## Limits

- PL: Ewaluacja obejmuje kilka modeli językowych oraz agentów językowych i multimodalnych w skali 3B–8B. Obrona wymaga reprezentatywnych szkodliwych wejść, dodaje koszt podglądu aktualizacji i nie gwarantuje ochrony przed ryzykami nieobecnymi w buforze ani przed innymi klasami ataków.
- EN: Evaluation covers several language models plus language and multimodal agents at 3B–8B scale. The defense needs representative harmful inputs, adds update-preview cost, and does not guarantee protection from risks absent from the buffer or from other attack classes.

## Key terms

- PL: **Safety Buffer**: Zestaw szkodliwych wejść z bezpiecznymi odpowiedziami modelu i ich łagodnymi wersjami.
- PL: **podgląd aktualizacji**: Symulacja jednego kroku dostrajania, żeby ocenić wpływ na bezpieczeństwo.
- PL: **uśpione zatrucie**: Ukryte szkodliwe zachowanie, które aktywuje się dopiero po zwykłym dostrajaniu.
- EN: **Safety Buffer**: A set of harmful inputs with the model's safe responses and their benign versions.
- EN: **update preview**: Simulation of one fine-tuning step to assess its effect on safety.
- EN: **dormant poisoning**: Hidden harmful behaviour that activates only after ordinary fine-tuning.

## Know first

- [SFT / instruction tuning (Supervised fine-tuning)](https://aiatlasgraph.com/t/sft.md)

## Related topics

Untyped, symmetric "see also" links.

- [Bezpieczeństwo agentów: uprawnienia i izolacja (AI agent security)](https://aiatlasgraph.com/t/agentsecurity.md)

## Sources

- [Defending Against Dormant Poisoning Attacks Across Language and Multimodal Agents](<https://arxiv.org/abs/2610.24379>) `lookahead-arxiv-2610-24379` · by Wonjun Lee, Vaidehi Patil, Zaid Khan, Yue Zhang, Hyunji Lee, Suhyun Kim, Mohit Bansal

---

AI Atlas revision 124 (2026-10-31) · HTML: https://aiatlasgraph.com/t/lookaheaddefense · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30