# Transformery w modelach dyfuzyjnych i przepływowych (DiT)

EN: **Transformers for diffusion and flow models (DiT)** · id `dit` · aliases: DiT, diffusion transformer, MM-DiT, transformer dyfuzyjny

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Rodziny modeli generatywnych](https://aiatlasgraph.com/t/generative.md) › [Modele dyfuzyjne](https://aiatlasgraph.com/t/diffusion.md) › Transformery w modelach dyfuzyjnych i przepływowych (DiT)

## Description

- PL: Architektury generatywne, w których transformer przetwarza łatki reprezentacji obrazu zamiast typowego szkieletu U-Net. DiT zastosował tę konstrukcję w dyfuzji latentnej, a nowsze warianty wykorzystują transformery również w modelach trenowanych metodami przepływowymi.
- EN: Generative architectures in which a transformer processes patches of an image representation instead of a conventional U-Net backbone. DiT applied this design to latent diffusion, while newer variants also use transformers in flow-trained models.

## In one sentence

- PL: To generatory, które podczas tworzenia obrazu porównują jego małe fragmenty za pomocą mechanizmu uwagi.
- EN: These generators compare small image-representation patches through attention while creating an image.

## Problem it solves

- PL: Tworzony obraz potrzebuje zgodności między odległymi fragmentami, a model musi sprawnie łączyć ich informacje.
- EN: A generated image needs consistency across distant regions, and the model must connect their information efficiently.

## What it does

- PL: Transformer przetwarza fragmenty zaszumionego lub pośredniego zapisu obrazu i przewiduje zmiany potrzebne w kolejnym kroku generowania.
- EN: A transformer processes patches of a noisy or intermediate image representation and predicts changes needed for the next generation step.

## Everyday example

- PL: Generator ilustracji zestawia fragmenty postaci i tła podczas kolejnych kroków budowania sceny.
- EN: An illustration generator connects figure and background patches during successive steps of constructing a scene.

## This concerns you if you…

- PL: poznajesz budowę nowoczesnych generatorów
- PL: chcesz połączyć uwagę z tworzeniem obrazu
- EN: study modern generator designs
- EN: want to connect attention with image generation

## Keywords

MMDiT · image patch tokens · adaptive LayerNorm · flow transformers · timestep conditioning

## How it works

- PL: Zaszumioną reprezentację obrazu dzieli się na tokeny łatek przetwarzane przez bloki transformera. Informacja o kroku oraz warunku moduluje obliczenia, a projekcja wyjściowa przewiduje sygnał potrzebny do odszumiania lub aktualizacji przepływu.
- EN: A noisy image representation is split into patch tokens processed by transformer blocks. Step and conditioning information modulate computation, and an output projection predicts signals needed for denoising or flow updates.

## Limits

- PL: Pełna uwaga nad wieloma łatkami zwiększa koszt i pamięć. Rozmiar łatek wpływa na szczegóły, a jakość zależy również od celu treningowego, reprezentacji obrazu oraz samplera.
- EN: Full attention over many patches increases cost and memory. Patch size affects detail, while quality also depends on training objectives, image representation and samplers.

## Key terms

- PL: **token łatki**: Wektor reprezentujący fragment przestrzennej siatki obrazu lub latentu.
- PL: **warunkowanie krokiem**: Przekazanie modelowi pozycji w procesie generowania.
- EN: **patch token**: A vector representing part of an image or latent spatial grid.
- EN: **step conditioning**: Informing the model of its position within generation.

## Know first

- [Transformery i attention (Transformers and attention)](https://aiatlasgraph.com/t/transformers.md)
- [Vision Transformer (ViT)](https://aiatlasgraph.com/t/vit.md)

## Examples

- PL: DiT · transformery z osobnymi reprezentacjami obrazu i tekstu · transformery generujące wideo
- EN: DiT · transformers with separate image and text representations · video-generation transformers

## Related topics

Untyped, symmetric "see also" links.

- [Generowanie wideo z tekstu i obrazu (Text-to-video and image-to-video generation)](https://aiatlasgraph.com/t/videogen.md)
- [Klepsydrowy transformer dyfuzyjny (Hourglass diffusion transformer)](https://aiatlasgraph.com/t/hourglassdit.md)
- [Transformer pikselowy o dwóch poziomach (Dual-level pixel diffusion transformer)](https://aiatlasgraph.com/t/pixeldit.md)
- [Vision Transformer (ViT)](https://aiatlasgraph.com/t/vit.md)

## Sources

- [Scaling Rectified Flow Transformers for High-Resolution Image Synthesis](<https://arxiv.org/abs/2403.03206>) `sd3-rectified-flow-2024` · by Patrick Esser, Sumith Kulal, Andreas Blattmann i in., Robin Rombach (Stability AI) · sponsored
- [Scalable Diffusion Models with Transformers](<https://arxiv.org/abs/2212.09748>) `dit-2022` · by William Peebles, Saining Xie

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/dit · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30