# Zatruwanie danych i backdoory

EN: **Data poisoning and backdoors** · id `poisoning`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Bezpieczeństwo i governance](https://aiatlasgraph.com/t/safety.md) › [Bezpieczeństwo aplikacji AI](https://aiatlasgraph.com/t/security.md) › Zatruwanie danych i backdoory

## Description

- PL: Atak na dane treningowe: fałszywe informacje albo ukryty wyzwalacz, który zmienia zachowanie modelu.
- EN: Attacking the training data: false information or a hidden trigger that changes the model's behaviour.

## In one sentence

- PL: To celowe psucie danych treningowych, żeby model nauczył się błędów lub ukrytej reakcji na wybrany sygnał.
- EN: This deliberately corrupts training data to teach a model errors or a hidden response to a selected signal.

## Problem it solves

- PL: Model może przejąć błędne zachowanie z danych, które wyglądają zwyczajnie i pochodzą z pozornie wiarygodnego źródła.
- EN: A model can learn harmful behaviour from data that looks ordinary and comes from an apparently trustworthy source.

## What it does

- PL: Zmienione przykłady wpływają na uczenie; ukryty wyzwalacz może ujawniać niepożądane zachowanie dopiero w szczególnej sytuacji.
- EN: Altered examples influence learning; a hidden trigger can reveal unwanted behaviour only in a particular situation.

## Everyday example

- PL: W audycie danych odkrywasz zdjęcia, w których mały znak jest stale powiązany z błędną etykietą produktu.
- EN: In a data audit, you discover photos where a small mark is consistently associated with the wrong product label.

## This concerns you if you…

- PL: trenujesz na danych z zewnętrznych źródeł
- PL: model dziwnie reaguje na wybrany szczegół
- EN: train on externally sourced data
- EN: notice unusual reactions to a particular detail

## Keywords

backdoor triggers · training data contamination · clean-label attacks · targeted poisoning · BadNets

## How it works

- PL: Zmodyfikowane przykłady wpływają na gradienty i wyuczone zależności podczas treningu. Backdoor wiąże określony wyzwalacz z niepożądanym wynikiem, który może pozostawać niewidoczny w zwykłej ewaluacji bez tego warunku.
- EN: Modified examples influence gradients and learned dependencies during training. A backdoor links a trigger to an undesirable outcome that can remain invisible in ordinary evaluation without that condition.

## Limits

- PL: Podejrzane zachowanie może przypominać naturalny błąd lub korelację danych. Filtrowanie nie wykrywa wszystkich zmian; usunięcie przykładów po treningu nie usuwa automatycznie ich wpływu na wagi.
- EN: Suspicious behaviour can resemble ordinary errors or data correlations. Filtering cannot detect every modification; removing examples after training does not automatically remove their weight influence.

## Key terms

- PL: **zatrucie danych**: Celowa zmiana danych uczących w celu wpłynięcia na zachowanie modelu.
- PL: **wyzwalacz backdoora**: Warunek wejścia uruchamiający ukryte, niepożądane zachowanie.
- EN: **data poisoning**: Deliberately modifying training data to influence model behaviour.
- EN: **backdoor trigger**: An input condition activating hidden undesirable behaviour.

## Know first

- [Walidacja i testy danych (Data validation and testing)](https://aiatlasgraph.com/t/datavalidation.md)
- [Uczenie nadzorowane (Supervised learning)](https://aiatlasgraph.com/t/supervised.md)

## Examples

- PL: zatrute dane · backdoor z wyzwalaczem
- EN: poisoned data · trigger-based backdoor

## Subtopics (1 direct, 1 in total)

- [Podgląd aktualizacji dla bezpiecznego dostrajania (Update-preview defense for safe fine-tuning)](https://aiatlasgraph.com/t/lookaheaddefense.md): Previews and penalizes fine-tuning updates that weaken safe behaviour from a buffer.

## Related topics

Untyped, symmetric "see also" links.

- [Bezpieczeństwo łańcucha dostaw modeli (AI model supply chain security)](https://aiatlasgraph.com/t/supplychain.md)
- [Pozyskiwanie i pochodzenie (Data sourcing and provenance)](https://aiatlasgraph.com/t/sourcing.md)

## Sources

- [LLM Course (Maxime Labonne)](<https://github.com/mlabonne/llm-course>) `mlabonne-llm-course` · by Maxime Labonne

---

AI Atlas revision 124 (2026-10-31) · HTML: https://aiatlasgraph.com/t/poisoning · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30