# Połączenia resztkowe (skip connections)

EN: **Residual (skip) connections** · id `residual` · aliases: residual connection, skip connection, połączenie resztkowe, residual stream, strumień resztkowy

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Podstawy sieci neuronowych](https://aiatlasgraph.com/t/neuralbasics.md) › Połączenia resztkowe (skip connections)

## Description

- PL: Połączenia skrótowe dodające wejście bloku do jego wyjścia, dzięki czemu warstwa może uczyć się korekty względem reprezentacji wejściowej. Umożliwiły skuteczne trenowanie bardzo głębokich ResNetów i są powszechnym składnikiem wielu współczesnych głębokich architektur, w tym transformerów.
- EN: Shortcut connections that add a block's input to its output, allowing the layer to learn a correction relative to the input representation. They enabled effective training of very deep ResNets and are a common component of many modern deep architectures, including transformers.

## In one sentence

- PL: To połączenia, które pozwalają informacji ominąć część warstw sieci i dołączyć do ich wyniku.
- EN: These connections let information bypass some network layers and join their output.

## Problem it solves

- PL: W bardzo głębokiej sieci informacje i sygnały potrzebne do uczenia mogą trudno docierać przez kolejne warstwy.
- EN: In very deep networks, information and learning signals can struggle to travel through successive layers.

## What it does

- PL: Blok dodaje wyuczoną zmianę do swojego wejścia, dzięki czemu może uczyć się korekty zamiast całego przekształcenia od początku.
- EN: A block adds a learned adjustment to its input, letting it learn a correction rather than the whole transformation from scratch.

## Everyday example

- PL: Budujesz głęboki model obrazu z drogami na skróty między warstwami, żeby ułatwić jego trening.
- EN: You build a deep image model with shortcuts between layers to make it easier to train.

## This concerns you if you…

- PL: poznajesz budowę głębokich sieci
- PL: chcesz ułatwić przepływ informacji podczas treningu
- EN: study the structure of deep networks
- EN: want to improve information flow during training

## Keywords

ResNet blocks · residual stream · identity mapping · pre-activation blocks · gradient flow

## How it works

- PL: Blok oblicza korektę reprezentacji, którą dodaje do wejścia przechodzącego ścieżką skrótową. Wsteczny gradient korzysta z obu ścieżek, a zgodność wymiarów zapewnia tożsamość lub dodatkowa projekcja.
- EN: A block computes a representation correction and adds it to input carried through a shortcut. Backward gradients use both paths, with dimensions aligned through identity mapping or an additional projection.

## Limits

- PL: Dodawane reprezentacje muszą mieć zgodne rozmiary i kontrolowaną skalę. Skróty ułatwiają optymalizację, ale nie gwarantują stabilności bardzo głębokiej sieci ani poprawności wyuczonej funkcji.
- EN: Added representations need compatible dimensions and controlled scales. Shortcuts ease optimisation but cannot guarantee very deep network stability or learned-function correctness.

## Key terms

- PL: **ścieżka skrótowa**: Połączenie przekazujące wejście obok głównego przekształcenia bloku.
- PL: **korekta resztkowa**: Zmiana dodawana do reprezentacji zamiast jej całkowitego zastąpienia.
- EN: **shortcut path**: A connection carrying input alongside a block's main transformation.
- EN: **residual correction**: A change added to a representation instead of replacing it entirely.

## Know first

- [Propagacja wsteczna (backpropagation) (Backpropagation)](https://aiatlasgraph.com/t/backprop.md)
- [Algebra liniowa: wektory i macierze (Linear algebra: vectors and matrices)](https://aiatlasgraph.com/t/linearalgebra.md)

## Examples

- PL: blok resztkowy ResNet · strumień resztkowy (residual stream) w transformerze
- EN: ResNet residual block · transformer residual stream

## Related topics

Untyped, symmetric "see also" links.

- [Głębokie architektury konwolucyjne (ResNet, U-Net) (Deep convolutional architectures (ResNet, U-Net))](https://aiatlasgraph.com/t/cnnarchs.md)

## Sources

- [Understanding Deep Learning (Simon J.D. Prince) — chapter list](<https://udlbook.github.io/udlbook/>) `udlbook-toc` · by Simon J.D. Prince
- [Deep Residual Learning for Image Recognition](<https://arxiv.org/abs/1512.03385>) `resnet-2015` · by Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/residual · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30