# Wyjaśnienia przez wektory aktywacji pojęć (TCAV)

EN: **Concept activation vector explanations (TCAV)** · id `conceptexplanations` · aliases: TCAV, concept activation vectors, CAV, wyjaśnienia przez wektory aktywacji pojęć

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Interpretowalność](https://aiatlasgraph.com/t/explainability.md) › Wyjaśnienia przez wektory aktywacji pojęć (TCAV)

## Description

- PL: Metody wyjaśniania przez kierunki pojęć w przestrzeni aktywacji; TCAV mierzy wrażliwość predykcji klasy na zdefiniowane przez użytkownika pojęcie.
- EN: Explanation methods using concept directions in activation space; TCAV measures a class prediction's sensitivity to a user-defined concept.

## In one sentence

- PL: Sprawdzanie, jak bardzo wybrane ludzkie pojęcie, np. „paski”, wpływa na decyzję modelu, zamiast wskazywać pojedyncze piksele.
- EN: Checking how much a chosen human idea, such as “stripes”, affects a model's decision, instead of pointing at single pixels.

## Problem it solves

- PL: Mapa podświetlonych pikseli nie mówi, czy model kieruje się kształtem, kolorem czy tłem, a to kluczowe dla zaufania.
- EN: A map of highlighted pixels does not say whether the model relies on shape, colour or background, which matters for trust.

## What it does

- PL: Pokazujesz modelowi przykłady pojęcia i przykłady losowe, uczysz kierunek „tego pojęcia” w jego wnętrzu i mierzysz, jak mocno pcha on decyzję.
- EN: You show the model examples of a concept and random examples, learn the concept's direction inside it, and measure how hard it pushes the decision.

## Everyday example

- PL: Lekarz sprawdza, czy model oceniający zdjęcia skóry kieruje się kształtem zmiany, czy obecnością linijki obok niej na zdjęciu.
- EN: A doctor checks whether a skin-photo model relies on the lesion's shape or on a ruler lying next to it in the picture.

## This concerns you if you…

- PL: chcesz sprawdzić, czy model kieruje się sensownymi cechami
- PL: musisz wyjaśnić decyzje modelu osobom bez wiedzy technicznej
- EN: want to check whether a model relies on sensible cues
- EN: must explain model decisions to non-technical people

## Keywords

TCAV · concept activation vectors · concept bottleneck models · ACE · linear probes · directional derivatives · network dissection

## How it works

- PL: Na aktywacjach wybranej warstwy trenuje się klasyfikator liniowy odróżniający przykłady pojęcia od losowych; normalna do granicy to wektor aktywacji pojęcia (CAV). TCAV liczy pochodną kierunkową wyniku klasy wzdłuż CAV i odsetek przykładów z dodatnim wpływem, z testem istotności wobec losowych CAV.
- EN: A linear classifier is trained on a chosen layer's activations to separate concept examples from random ones; the boundary normal is the concept activation vector (CAV). TCAV computes the class score's directional derivative along the CAV and the share of inputs with positive influence, tested against random CAVs.

## Limits

- PL: Wynik zależy od doboru przykładów pojęcia, warstwy i zbioru losowego. Pojęcia trzeba zdefiniować z góry, więc metoda nie odkryje cech, o które nikt nie zapytał; pojęcia skorelowane trudno rozdzielić.
- EN: Results depend on chosen concept examples, layer and random set. Concepts must be defined upfront, so the method cannot reveal cues nobody asked about; correlated concepts are hard to separate.

## Key terms

- PL: **CAV**: Kierunek w aktywacjach sieci odpowiadający wybranemu ludzkiemu pojęciu.
- PL: **pochodna kierunkowa**: Jak zmienia się wynik przy małym ruchu w jednym określonym kierunku.
- EN: **CAV**: A direction in network activations matching a chosen human concept.
- EN: **directional derivative**: How the output changes with a small step in one specific direction.

## Know first

- [Sondy klasyfikacyjne (probing) (Probing classifiers)](https://aiatlasgraph.com/t/probing.md)

## Related topics

Untyped, symmetric "see also" links.

- [Sterowanie aktywacjami (wektory sterujące) (Activation steering and representation engineering)](https://aiatlasgraph.com/t/activationsteering.md)

## Sources

- [Interpretability Beyond Feature Attribution: Quantitative Testing with Concept Activation Vectors (TCAV)](<https://arxiv.org/abs/1711.11279>) `tcav-2018` · by Been Kim, Martin Wattenberg, Justin Gilmer, Carrie Cai, James Wexler, Fernanda Viegas, Rory Sayres

---

AI Atlas revision 131 (2026-11-07) · HTML: https://aiatlasgraph.com/t/conceptexplanations · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-11-06