# xLSTM — rozszerzona pamięć LSTM

EN: **xLSTM (Extended Long Short-Term Memory)** · id `xlstm` · aliases: xLSTM, extended LSTM, rozszerzone LSTM

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Sieci konwolucyjne i sekwencyjne](https://aiatlasgraph.com/t/cnn.md) › [LSTM i GRU — sieci z bramkami pamięci](https://aiatlasgraph.com/t/lstmgru.md) › xLSTM — rozszerzona pamięć LSTM

## Description

- PL: Rozszerzenie LSTM z wykładniczym bramkowaniem i stabilizacją oraz dwoma blokami: sLSTM (pamięć skalarna z mieszaniem pamięci) i mLSTM (pamięć macierzowa, w pełni zrównoleglalna).
- EN: An LSTM extension with exponential gating and stabilisation plus two blocks: sLSTM (scalar memory with memory mixing) and mLSTM (fully parallelisable matrix memory).

## In one sentence

- PL: Odświeżona wersja klasycznej sieci z pamięcią, przebudowana tak, by dało się ją skalować do rozmiarów współczesnych modeli językowych.
- EN: A refreshed version of a classic memory network, rebuilt so it can scale to the size of today's language models.

## Problem it solves

- PL: Starsze sieci z pamięcią uczyły się wolno, krok po kroku, i miały za mało pamięci, by konkurować z dużymi modelami.
- EN: Older memory networks trained slowly, step by step, and had too little memory to compete with large models.

## What it does

- PL: Jak zamiana notesu na szafę z szufladami: zamiast jednej liczby na cechę model trzyma całą tabelę skojarzeń i umie zdecydowanie nadpisać stare wpisy.
- EN: Like trading a notepad for a chest of drawers: the model keeps a whole table of associations and can firmly overwrite old entries.

## Everyday example

- PL: Model prognozujący zużycie prądu w mieście przetwarza bardzo długą historię pomiarów, nie zwalniając przy każdym nowym odczycie.
- EN: A model forecasting a city's electricity use processes a very long measurement history without slowing down at each new reading.

## This concerns you if you…

- PL: szukasz alternatyw dla transformerów do długich sekwencji
- PL: pracujesz z długimi szeregami czasowymi
- EN: look for transformer alternatives for long sequences
- EN: work with long time series

## Keywords

sLSTM · mLSTM · exponential gating · matrix memory · xLSTM 7B · NX-AI · linear RNN

## How it works

- PL: Bramki wejścia i zapominania mają postać wykładniczą, z normalizacją i stabilizacją, co pozwala zdecydowanie zmieniać decyzje o zapamiętaniu. sLSTM zachowuje rekurencję skalarną z mieszaniem pamięci; mLSTM przechowuje macierz pamięci aktualizowaną regułą kowariancji (klucz–wartość) i trenuje się równolegle. Bloki układa się w stos z połączeniami resztkowymi.
- EN: Input and forget gates are exponential, with normalisation and stabilisation, allowing storage decisions to be revised decisively. sLSTM keeps scalar recurrence with memory mixing; mLSTM stores a matrix memory updated by a covariance (key–value) rule and trains in parallel. Blocks are stacked with residual connections.

## Limits

- PL: sLSTM pozostaje sekwencyjny i trudniej go przyspieszyć. Ekosystem i liczba dużych modeli są ograniczone; przewagi nad transformerami i modelami przestrzeni stanów pochodzą głównie z porównań autorów przy określonych skalach.
- EN: sLSTM stays sequential and is harder to accelerate. The ecosystem and number of large models are limited; advantages over transformers and state-space models come mainly from the authors' comparisons at specific scales.

## Key terms

- PL: **bramkowanie wykładnicze**: Bramka z funkcją wykładniczą zamiast sigmoidy, ze stabilizacją.
- PL: **pamięć macierzowa**: Stan w postaci tabeli skojarzeń klucz–wartość zamiast wektora.
- PL: **mieszanie pamięci**: Wymiana informacji między komórkami pamięci w kolejnych krokach.
- EN: **exponential gating**: A gate using an exponential instead of a sigmoid, with stabilisation.
- EN: **matrix memory**: State held as a key–value association table instead of a vector.
- EN: **memory mixing**: Information exchange between memory cells across steps.

## Know first

- [Połączenia resztkowe (skip connections) (Residual (skip) connections)](https://aiatlasgraph.com/t/residual.md)

## Related topics

Untyped, symmetric "see also" links.

- [Modele przestrzeni stanów (Mamba) (State-space models (Mamba))](https://aiatlasgraph.com/t/ssm.md)

## Sources

- [xLSTM: Extended Long Short-Term Memory](<https://arxiv.org/abs/2405.04517>) `beck-xlstm-2024` · by Maximilian Beck, Korbinian Pöppel, Markus Spanring i in. (Sepp Hochreiter)

---

AI Atlas revision 129 (2026-11-05) · HTML: https://aiatlasgraph.com/t/xlstm · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-11-05