Obwody i grafy atrybucji (circuit tracing)

Circuits and attribution graphs · id circuittracing · aliases: circuit tracing, attribution graphs, circuits, obwody, cross-layer transcoders

Budowanie przybliżonego grafu cech i połączeń, które mogą pośredniczyć w obliczeniu prowadzącym do odpowiedzi modelu. Graf wymaga walidacji interwencjami i nie gwarantuje kompletnego, wiernego odtworzenia mechanizmu.

Building an approximate graph of features and connections that may mediate the computation behind a model answer. The graph requires intervention-based validation and does not guarantee a complete, faithful reconstruction of the mechanism.

In one sentence

To tworzenie przybliżonej mapy wewnętrznych sygnałów i połączeń mogących prowadzić do odpowiedzi modelu.

This builds an approximate map of internal signals and connections that may produce a model answer.

Problem it solves

Pojedyncze rozpoznane sygnały nie pokazują, jak łączą się w kolejne kroki obliczenia.

Individual identified signals do not show how they combine into successive calculation steps.

What it does

Łączy badane składniki w graf z użyciem modelu pomocniczego i sprawdza przewidywane zależności przez interwencje; mapa może pomijać część mechanizmu.

It connects studied components in a graph using a supporting model and tests predicted links through interventions; the map may miss mechanisms.

Everyday example

Dla pytania o znany fakt oglądasz mapę połączeń, a potem zmieniasz wybrane sygnały, żeby sprawdzić przewidywany wpływ.

For a factual question, you inspect a connection map and then alter selected signals to test their predicted effects.

This concerns you if you…

Examples

Related topics

Sources