# Mapy istotności dla sieci neuronowych

EN: **Saliency maps and gradient attribution** · id `saliencymaps` · aliases: saliency maps, Grad-CAM, integrated gradients, gradient attribution, mapy cieplne uwagi

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Ewaluacja i interpretowalność](https://aiatlasgraph.com/t/evaluation.md) › [Interpretowalność](https://aiatlasgraph.com/t/explainability.md) › Mapy istotności dla sieci neuronowych

## Description

- PL: Wizualizacje przypisujące pikselom lub tokenom ważność dla wyniku sieci na podstawie gradientów albo aktywacji. Wysoka ważność nie jest sama w sobie dowodem przyczynowego wpływu.
- EN: Visualisations assigning importance to pixels or tokens for a network output using gradients or activations. High importance is not by itself evidence of causal influence.

## In one sentence

- PL: To mapy wskazujące fragmenty obrazu lub tekstu powiązane z konkretnym wynikiem modelu.
- EN: These maps highlight image or text parts associated with a particular model result.

## Problem it solves

- PL: Nie wiesz, które fragmenty wejścia wiążą się z odpowiedzią, zwłaszcza gdy obraz lub tekst zawiera wiele szczegółów.
- EN: You do not know which input parts relate to an answer, especially when an image or text contains many details.

## What it does

- PL: Wylicza ważność fragmentów z wewnętrznych sygnałów lub wrażliwości wyniku i zaznacza ją na wejściu; mapa sama nie dowodzi przyczyny decyzji.
- EN: It scores parts using internal signals or output sensitivity and highlights them on the input; the map alone does not establish decision causes.

## Everyday example

- PL: Przy rozpoznawaniu uszkodzenia części oglądasz podświetlone fragmenty zdjęcia i sprawdzasz, czy model skupia się na części czy tle.
- EN: For a defective part classification, you inspect highlighted image areas and check whether the model focuses on the part or background.

## This concerns you if you…

- PL: chcesz oglądać fragmenty wejścia związane z wynikiem
- PL: szukasz wskazówek do dalszego badania modelu
- EN: want to view input regions associated with an output
- EN: seek clues for further model investigation

## Keywords

input gradients · Integrated Gradients · Grad-CAM · SmoothGrad · gradient-times-input

## How it works

- PL: Gradienty wyniku względem wejścia lub ważone aktywacje przypisują istotność pikselom i tokenom. Warianty integrujące gradient po ścieżce porównują przykład z wybranym wejściem bazowym.
- EN: Output gradients with respect to inputs or weighted activations assign importance to pixels and tokens. Path-integrated variants compare an example with a selected baseline input.

## Limits

- PL: Mapy są wrażliwe na skalę, punkt bazowy i metodę wizualizacji. Lokalna wrażliwość nie dowodzi przyczynowości; nasycenie aktywacji może maskować istotne informacje.
- EN: Maps are sensitive to scale, baselines and visualisation methods. Local sensitivity does not prove causality; activation saturation can hide important information.

## Key terms

- PL: **saliency**: Ocena lokalnej istotności fragmentów wejścia dla wyniku modelu.
- PL: **integrated gradients**: Sumowanie gradientów na ścieżce od wejścia bazowego do analizowanego.
- EN: **saliency**: An estimate of input-region importance for a model output.
- EN: **integrated gradients**: Accumulating gradients along a path from a baseline to the analysed input.

## Know first

- [Propagacja wsteczna (backpropagation) (Backpropagation)](https://aiatlasgraph.com/t/backprop.md)
- [Rachunek różniczkowy i gradienty (Calculus and gradients)](https://aiatlasgraph.com/t/calculus.md)

## Examples

- PL: gradient względem wejścia · mapy na pikselach lub tokenach · atrybucja oparta na aktywacjach
- EN: input gradients · pixel or token maps · activation-based attribution

## Related topics

Untyped, symmetric "see also" links.

- [Widzenie komputerowe (Computer vision)](https://aiatlasgraph.com/t/visionnode.md)

## Sources

- [Interpretable Machine Learning: A Guide for Making Black Box Models Explainable (3rd edition)](<https://christophm.github.io/interpretable-ml-book/>) `molnar-iml-book-3ed` · by Christoph Molnar

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/saliencymaps · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30