# Obwody i grafy atrybucji (circuit tracing)

EN: **Circuits and attribution graphs** · id `circuittracing` · aliases: circuit tracing, attribution graphs, circuits, obwody, cross-layer transcoders

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Interpretowalność](https://aiatlasgraph.com/t/explainability.md) › [Interpretowalność mechanistyczna](https://aiatlasgraph.com/t/mechinterp.md) › Obwody i grafy atrybucji (circuit tracing)

## Description

- PL: Budowanie przybliżonego grafu cech i połączeń, które mogą pośredniczyć w obliczeniu prowadzącym do odpowiedzi modelu. Graf wymaga walidacji interwencjami i nie gwarantuje kompletnego, wiernego odtworzenia mechanizmu.
- EN: Building an approximate graph of features and connections that may mediate the computation behind a model answer. The graph requires intervention-based validation and does not guarantee a complete, faithful reconstruction of the mechanism.

## In one sentence

- PL: To tworzenie przybliżonej mapy wewnętrznych sygnałów i połączeń mogących prowadzić do odpowiedzi modelu.
- EN: This builds an approximate map of internal signals and connections that may produce a model answer.

## Problem it solves

- PL: Pojedyncze rozpoznane sygnały nie pokazują, jak łączą się w kolejne kroki obliczenia.
- EN: Individual identified signals do not show how they combine into successive calculation steps.

## What it does

- PL: Łączy badane składniki w graf z użyciem modelu pomocniczego i sprawdza przewidywane zależności przez interwencje; mapa może pomijać część mechanizmu.
- EN: It connects studied components in a graph using a supporting model and tests predicted links through interventions; the map may miss mechanisms.

## Everyday example

- PL: Dla pytania o znany fakt oglądasz mapę połączeń, a potem zmieniasz wybrane sygnały, żeby sprawdzić przewidywany wpływ.
- EN: For a factual question, you inspect a connection map and then alter selected signals to test their predicted effects.

## This concerns you if you…

- PL: chcesz badać połączenia między wewnętrznymi składnikami modelu
- PL: możesz sprawdzać hipotezy przez kontrolowane interwencje
- EN: want to examine links between internal model components
- EN: can test hypotheses through controlled interventions

## Keywords

attribution graphs · cross-layer transcoders · replacement models · feature interactions · perturbation validation

## How it works

- PL: Wyuczony model zastępczy aproksymuje fragmenty sieci czytelniejszymi cechami i połączeniami. Atrybucja dla konkretnego wejścia buduje graf kandydackich zależności, którego hipotezy sprawdza się interwencjami w oryginalnym modelu.
- EN: A learned replacement model approximates network components with more readable features and connections. Attribution for a particular input builds a graph of candidate dependencies, whose hypotheses are tested through original-model interventions.

## Limits

- PL: Aproksymacja pomija część obliczeń i może zniekształcać zależności. Przycięty graf nie jest pełnym mechanizmem; zgodność z predykcją wymaga dodatkowej walidacji interwencyjnej.
- EN: Approximation omits computations and can distort dependencies. A pruned graph is not a complete mechanism; prediction agreement requires additional intervention-based validation.

## Key terms

- PL: **transkoder**: Model przybliżający przekształcenia sieci za pomocą wyuczonego słownika cech.
- PL: **graf atrybucji**: Przybliżone powiązania wkładów cech w wynik dla konkretnego wejścia.
- EN: **transcoder**: A model approximating network transformations using a learned feature dictionary.
- EN: **attribution graph**: Approximate feature-contribution relationships for a particular input's output.

## Know first

- [Rzadkie autoenkodery (SAE) i słowniki cech (Sparse autoencoders and dictionary learning)](https://aiatlasgraph.com/t/sae.md)
- [Podmiana aktywacji (activation patching) (Activation patching)](https://aiatlasgraph.com/t/activationpatching.md)

## Examples

- PL: grafy atrybucji · transkodery międzywarstwowe · model zastępczy · walidacja przez perturbacje
- EN: attribution graphs · cross-layer transcoders · replacement model · validation by perturbation

## Related topics

Untyped, symmetric "see also" links.

- [Podmiana aktywacji (activation patching) (Activation patching)](https://aiatlasgraph.com/t/activationpatching.md)

## Sources

- [Open Problems in Mechanistic Interpretability](<https://arxiv.org/abs/2501.16496>) `open-problems-mechinterp-2025` · by Lee Sharkey, Bilal Chughtai, Joshua Batson, Jack Lindsey, Jeff Wu i in. (29 autorów, m.in. Neel Nanda, Stella Biderman, David Bau, Mor Geva)
- [Circuit Tracing: Revealing Computational Graphs in Language Models](<https://transformer-circuits.pub/2025/attribution-graphs/methods.html>) `anthropic-circuit-tracing-2025` · by Emmanuel Ameisen, Jack Lindsey, Adam Pearce, Wes Gurnee, Nicholas L. Turner i in. (Anthropic, ok. 19 autorów)

---

AI Atlas revision 124 (2026-10-31) · HTML: https://aiatlasgraph.com/t/circuittracing · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30