# Podmiana aktywacji (activation patching)

EN: **Activation patching** · id `activationpatching` · aliases: activation patching, causal tracing, path patching, interwencje przyczynowe

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Interpretowalność](https://aiatlasgraph.com/t/explainability.md) › [Interpretowalność mechanistyczna](https://aiatlasgraph.com/t/mechinterp.md) › Podmiana aktywacji (activation patching)

## Description

- PL: Eksperyment interwencyjny: aktywacje wybranego komponentu zastępuje się aktywacjami z innego wejścia i mierzy zmianę wyniku. Daje to dowód przyczynowy, którego interpretacja zależy od konstrukcji eksperymentu i użytej metryki.
- EN: An intervention experiment: activations of a chosen component are replaced with activations from another input and the output change is measured. This provides causal evidence whose interpretation depends on the experimental design and metric.

## In one sentence

- PL: To sprawdzanie roli części modelu przez podmianę jej wewnętrznych sygnałów i obserwację zmiany wyniku.
- EN: This tests a model component's role by replacing its internal signals and observing changes in the result.

## Problem it solves

- PL: Samo współwystępowanie sygnału i odpowiedzi nie mówi, czy zmiana tego sygnału wpłynie na wynik.
- EN: A signal appearing alongside an answer does not show whether changing that signal affects the output.

## What it does

- PL: Przenosi wybrane wewnętrzne wartości z innego wejścia i mierzy skutek podmiany; wniosek zależy od doboru par, kontroli i miernika.
- EN: It transfers selected internal values from another input and measures the effect; conclusions depend on input pairs, controls and the chosen measure.

## Everyday example

- PL: Podmieniasz fragment obliczeń między poprawnym i zmienionym pytaniem o fakt, sprawdzając, czy odpowiedź wraca do wcześniejszej wersji.
- EN: You replace part of the computation between an original factual question and an altered one, checking whether the answer returns to its earlier version.

## This concerns you if you…

- PL: chcesz eksperymentalnie sprawdzić wpływ części modelu
- PL: masz dostęp do sygnałów podczas jego działania
- EN: want to test a model component's effect experimentally
- EN: can access signals during model execution

## Keywords

causal tracing · clean-corrupted input pairs · residual stream patching · path patching · activation interventions

## How it works

- PL: Dla pary wejść zapisuje się aktywacje, a wybrany komponent jednego przebiegu zastępuje odpowiednikiem z drugiego. Zmiana ustalonej metryki odpowiedzi mierzy efekt tej interwencji przy kontrolowanym kontekście.
- EN: Activations are recorded for an input pair, and a component in one run is replaced with its counterpart from the other. Changes in a chosen output metric measure intervention effects under controlled context.

## Limits

- PL: Wynik zależy od pary wejść, metryki i miejsca podmiany. Nienaturalne aktywacje, redundancja i efekty kompensacji ograniczają wnioski o konieczności lub wystarczalności komponentu.
- EN: Results depend on input pairs, metrics and patch locations. Unnatural activations, redundancy and compensation limit conclusions about component necessity or sufficiency.

## Key terms

- PL: **clean run**: Przebieg z wejściem dającym zachowanie służące jako punkt odniesienia.
- PL: **patch**: Podstawienie aktywacji z innego przebiegu w wybranym miejscu sieci.
- EN: **clean run**: A run exhibiting the reference behaviour.
- EN: **patch**: Replacing an activation at a selected network location with another run's activation.

## Know first

- [Podstawy sieci neuronowych (Neural network fundamentals)](https://aiatlasgraph.com/t/neuralbasics.md)
- [Testy statystyczne i przedziały ufności (Hypothesis tests and confidence intervals)](https://aiatlasgraph.com/t/hypothesistesting.md)

## Examples

- PL: podmiana aktywacji · pary wejść czyste/zaburzone · dobór metryki i kontroli
- EN: activation replacement · clean/corrupted input pairs · metric and control selection

## Related topics

Untyped, symmetric "see also" links.

- [Edycja wiedzy w modelu (ROME, MEMIT) (Knowledge editing in language models)](https://aiatlasgraph.com/t/knowledgeediting.md)
- [Obwody i grafy atrybucji (circuit tracing) (Circuits and attribution graphs)](https://aiatlasgraph.com/t/circuittracing.md)

## Sources

- [Open Problems in Mechanistic Interpretability](<https://arxiv.org/abs/2501.16496>) `open-problems-mechinterp-2025` · by Lee Sharkey, Bilal Chughtai, Joshua Batson, Jack Lindsey, Jeff Wu i in. (29 autorów, m.in. Neel Nanda, Stella Biderman, David Bau, Mor Geva)
- [How to use and interpret activation patching](<https://arxiv.org/abs/2404.15255>) `heimersheim-nanda-patching-2024` · by Stefan Heimersheim, Neel Nanda

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/activationpatching · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30