# Dyfuzja ciągła na zanurzeniach słów

EN: **Continuous diffusion on word embeddings** · id `embdiffusion` · aliases: Diffusion-LM, embedding diffusion, continuous diffusion language model, rounding

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Rodziny modeli generatywnych](https://aiatlasgraph.com/t/generative.md) › [Modele dyfuzyjne](https://aiatlasgraph.com/t/diffusion.md) › [Dyfuzyjne modele językowe](https://aiatlasgraph.com/t/dllm.md) › Dyfuzja ciągła na zanurzeniach słów

## Description

- PL: Ciągła dyfuzja w przestrzeni zanurzeń: szum gaussowski na wektorach, a na końcu zaokrąglenie do tokenu.
- EN: Continuous diffusion in embedding space: Gaussian noise on vectors, then rounding back to a token.

## In one sentence

- PL: Słowa zamienia się na liczby, szumi te liczby jak obraz, a na końcu zaokrągla wynik z powrotem do słów.
- EN: Words become numbers, those numbers are noised like an image, and the result is rounded back into words.

## Problem it solves

- PL: Chcesz poprawiać powstający tekst małymi krokami, a skok od razu do całego słowa jest za gruby.
- EN: You want to adjust a draft in small steps, and jumping straight to a whole word is too coarse.

## What it does

- PL: Sieć odszumia wektory słów. Po każdym kroku można je pchnąć w stronę warunku, a potem przyciąć do najbliższego słowa.
- EN: A network denoises word vectors. After each step they can be nudged toward a condition, then snapped to the nearest word.

## Everyday example

- PL: Prosisz o zdanie o określonym szyku. Model przesuwa pośrednie wektory tak, by wynik trzymał szyk i nadal brzmiał jak zdanie.
- EN: You ask for a sentence with a set word order. The model shifts intermediate vectors so the result keeps that order and still reads as a sentence.

## This concerns you if you…

- PL: sterujesz stylem lub szykiem powstającego tekstu
- PL: chcesz drobnych poprawek w trakcie pisania
- PL: łączysz generator tekstu z warunkiem liczbowym
- EN: steer the style or order of a draft
- EN: want small edits while the text is forming
- EN: combine a text generator with a numeric condition

## Keywords

Diffusion-LM · embedding diffusion · continuous diffusion · rounding · clamping · gradient-based control · plug-and-play control

## How it works

- PL: Token mapuje się na wektor, a proces w przód dodaje szum gaussowski jak w dyfuzji obrazu. Sieć przewiduje czysty wektor. Dekodowanie zaokrągla go do najbliższego słowa; przycinanie w trakcie kroków zmniejsza błąd zaokrąglenia. Warunek można dodać gradientem po wektorze, bez uczenia modelu od nowa.
- EN: A token maps to a vector, and the forward process adds Gaussian noise as in image diffusion. A network predicts the clean vector. Decoding rounds it to the nearest word; clamping during steps reduces rounding error. A condition can be added by a gradient on the vector, without retraining.

## Limits

- PL: Zaokrąglenie wektora do słowa jest źródłem błędów. Sterowanie gradientem wymaga warunku, który da się różniczkować. Długi tekst i duży słownik podnoszą koszt wielu kroków.
- EN: Rounding a vector to a word is a source of errors. Gradient control needs a condition that can be differentiated. Long text and a large vocabulary raise the cost of many steps.

## Key terms

- PL: **zaokrąglenie**: Zamiana odszumionego wektora na najbliższe słowo ze słownika.
- PL: **przycinanie**: Wymuszenie pośredniego wektora na prawdziwe słowo w trakcie generowania.
- EN: **rounding**: Turning a denoised vector into the nearest word in the vocabulary.
- EN: **clamping**: Forcing an intermediate vector onto a real word during generation.

## Know first

- [Zaszumianie i odszumianie krok po kroku (DDPM) (Forward noising and learned denoising (DDPM))](https://aiatlasgraph.com/t/ddpm.md)
- [Tokenizacja tekstu (BPE, WordPiece, SentencePiece) (Text tokenisation (BPE, WordPiece, SentencePiece))](https://aiatlasgraph.com/t/tokenization.md)

## Related topics

Untyped, symmetric "see also" links.

- [Zaszumianie i odszumianie krok po kroku (DDPM) (Forward noising and learned denoising (DDPM))](https://aiatlasgraph.com/t/ddpm.md)

## Sources

- [Diffusion-LM Improves Controllable Text Generation](<https://arxiv.org/abs/2205.14217>) `li-diffusionlm-2022` · by Xiang Lisa Li, John Thickstun, Ishaan Gulrajani, Percy Liang, Tatsunori B. Hashimoto

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/embdiffusion · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30