# Sterowanie aktywacjami (wektory sterujące)

EN: **Activation steering and representation engineering** · id `activationsteering` · aliases: steering vectors, activation steering, representation engineering, RepE, activation addition

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Interpretowalność](https://aiatlasgraph.com/t/explainability.md) › Sterowanie aktywacjami (wektory sterujące)

## Description

- PL: Znajdowanie w aktywacjach kierunków lub reprezentacji związanych z pojęciem i ich wzmacnianie albo tłumienie podczas działania modelu, aby badać lub zmieniać jego zachowanie bez ponownego trenowania.
- EN: Finding directions or representations in activations associated with a concept and amplifying or suppressing them at run time to study or change model behaviour without retraining.

## In one sentence

- PL: To zmienianie wewnętrznych liczb modelu podczas odpowiedzi, żeby badać lub kierować jego zachowaniem.
- EN: This changes a model's internal numbers during an answer to investigate or guide its behaviour.

## Problem it solves

- PL: Chcesz sprawdzić wpływ konkretnej reprezentacji lub zmienić zachowanie bez ponownego uczenia całego modelu.
- EN: You want to examine a representation's effect or change behaviour without retraining the whole model.

## What it does

- PL: Znajduje kierunek związany z badaną cechą i wzmacnia lub osłabia go podczas obliczeń, mierząc zmianę odpowiedzi i skutki uboczne.
- EN: It finds a direction associated with a property and amplifies or reduces it during computation, measuring answer changes and side effects.

## Everyday example

- PL: W eksperymencie wzmacniasz wewnętrzny sygnał związany z odmową i sprawdzasz, jak zmieniają się odpowiedzi na bezpieczne oraz ryzykowne pytania.
- EN: In an experiment, you amplify an internal signal associated with refusal and examine answers to ordinary and risky questions.

## This concerns you if you…

- PL: możesz ingerować w obliczenia modelu
- PL: chcesz badać zmianę zachowania bez pełnego treningu
- EN: can intervene in model computations
- EN: want to study behaviour changes without full training

## Keywords

steering vectors · RepE · contrastive activation addition · representation reading · activation interventions

## How it works

- PL: Kierunek w reprezentacji wyznacza się z kontrastowych przykładów, sondy lub słownika cech. Dodanie albo odjęcie jego składowej w wybranej warstwie zmienia aktywacje podczas inferencji i pozwala mierzyć skutki.
- EN: A representation direction is derived from contrasting examples, a probe or a feature dictionary. Adding or subtracting its component at a chosen layer changes inference activations and allows effects to be measured.

## Limits

- PL: Kierunek może łączyć wiele własności zamiast jednego pojęcia. Efekt zależy od warstwy, siły i kontekstu; zbyt mocna interwencja pogarsza inne zachowania.
- EN: A direction may mix multiple properties rather than isolate one concept. Effects depend on layer, strength and context; excessive intervention harms other behaviours.

## Key terms

- PL: **wektor sterujący**: Kierunek w aktywacjach używany do modyfikowania zachowania modelu.
- PL: **interwencja aktywacyjna**: Zmiana wewnętrznej reprezentacji podczas wykonania modelu.
- EN: **steering vector**: A direction in activations used to modify model behaviour.
- EN: **activation intervention**: A change to an internal representation during model execution.

## Know first

- [Reprezentacje i embeddingi (Representation learning)](https://aiatlasgraph.com/t/representations.md)
- [Algebra liniowa: wektory i macierze (Linear algebra: vectors and matrices)](https://aiatlasgraph.com/t/linearalgebra.md)

## Examples

- PL: wektory sterujące · inżynieria reprezentacji (RepE) · wzmacnianie i tłumienie reprezentacji
- EN: steering vectors · representation engineering (RepE) · amplifying and suppressing representations

## Related topics

Untyped, symmetric "see also" links.

- [Alignment i safety (Alignment and safety)](https://aiatlasgraph.com/t/alignment.md)
- [Mechanistyczne sterowanie bezpieczeństwem agentów CLI (Mechanistic subspace safety steering for multi-turn agents)](https://aiatlasgraph.com/t/mechsuits.md)
- [Rzadkie autoenkodery (SAE) i słowniki cech (Sparse autoencoders and dictionary learning)](https://aiatlasgraph.com/t/sae.md)

## Sources

- [Scaling Monosemanticity: Extracting Interpretable Features from Claude 3 Sonnet](<https://transformer-circuits.pub/2024/scaling-monosemanticity/>) `anthropic-scaling-monosemanticity-2024` · by Adly Templeton i in. (Anthropic)
- [Representation Engineering: A Top-Down Approach to AI Transparency](<https://arxiv.org/abs/2310.01405>) `repe-2023` · by Andy Zou, Long Phan, Sarah Chen, James Campbell i in. (21 autorów, m.in. J. Zico Kolter, Dan Hendrycks)

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/activationsteering · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30