# Rdzenie tensorowe i niska precyzja

EN: **Tensor cores and low precision** · id `tensorcores`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Inferencja i infrastruktura](https://aiatlasgraph.com/t/systems.md) › [GPU i obliczenia rozproszone](https://aiatlasgraph.com/t/compute.md) › Rdzenie tensorowe i niska precyzja

## Description

- PL: Jednostki do mnożenia macierzy i formaty liczb, które je karmią.
- EN: Matrix-multiply units and the number formats that feed them.

## In one sentence

- PL: To wyspecjalizowane jednostki szybko wykonujące działania na blokach liczb, często zapisanych z mniejszą dokładnością.
- EN: These specialised units rapidly operate on number blocks, often stored at lower precision.

## Problem it solves

- PL: Zwykłe jednostki obliczeniowe wykonują powtarzalne mnożenia modelu wolniej, niż pozwala wyspecjalizowany sprzęt.
- EN: General computation units perform repeated model multiplications more slowly than specialised hardware can.

## What it does

- PL: Łączą mnożenie i sumowanie całych bloków; odpowiedni układ danych i obsługiwany format liczb pomagają wykorzystać ich szybkość.
- EN: They combine multiplication and accumulation across blocks; suitable data layouts and supported number formats help exploit their speed.

## Everyday example

- PL: W treningu dobierasz obsługiwany format liczb i sprawdzasz, czy mnożenia korzystają z szybkich jednostek karty.
- EN: During training, you select a supported numerical format and check whether multiplications use the card's fast units.

## This concerns you if you…

- PL: chcesz wykorzystać specjalizowane jednostki karty
- PL: dobierasz formaty liczb do obliczeń modelu
- EN: want to use specialised card units
- EN: choose numerical formats for model computations

## Keywords

FP8 · FP4 · BF16 · block scaling · mixed precision · matrix multiply-accumulate · Transformer Engine

## How it works

- PL: Wyspecjalizowana instrukcja wykonuje blokowe mnożenie i akumulację macierzy w obsługiwanych formatach. Kernel przygotowuje kształt oraz układ danych, a precyzja mnożenia i akumulacji może być różna, równoważąc koszt z błędem numerycznym.
- EN: Specialised instructions perform block matrix multiplication and accumulation in supported formats. Kernels prepare compatible shapes and layouts, while multiplication and accumulation precision can differ to balance cost and numerical error.

## Limits

- PL: Nie każda operacja lub kształt korzysta z tych jednostek. Zakres i dokładność formatów wpływają na przepełnienia i błędy; konwersje oraz wyrównanie danych mogą ograniczać zysk.
- EN: Not every operation or shape uses these units. Format range and precision affect overflow and errors; conversion and alignment costs can limit gains.

## Key terms

- PL: **mieszana precyzja**: Użycie różnych formatów liczbowych na różnych etapach obliczenia.
- PL: **akumulacja macierzowa**: Dodawanie blokowych iloczynów do przechowywanego wyniku.
- EN: **mixed precision**: Using different numerical formats across computation stages.
- EN: **matrix accumulation**: Adding block products to a retained result.

## Know first

- [Kernele mnożenia macierzy (GEMM) (Matrix multiplication kernels (GEMM))](https://aiatlasgraph.com/t/gemm.md)
- [Algebra liniowa: wektory i macierze (Linear algebra: vectors and matrices)](https://aiatlasgraph.com/t/linearalgebra.md)

## Examples

- PL: FP8 · FP4 · skalowanie blokowe
- EN: FP8 · FP4 · block scaling

## Related topics

Untyped, symmetric "see also" links.

- [Kwantyzacja i kompresja (Quantization and compression)](https://aiatlasgraph.com/t/compression.md)
- [Trening w mieszanej precyzji (FP16, BF16, FP8) (Mixed-precision training)](https://aiatlasgraph.com/t/mixedprecision.md)
- [Wyspecjalizowane akceleratory AI (TPU, NPU) (Specialised AI accelerators (ASICs and NPUs))](https://aiatlasgraph.com/t/customaccelerators.md)

## Sources

- [Performance Engineering for AI Infra — learning guide](<https://github.com/wafer-ai/gpu-perf-engineering-resources>) `wafer-gpu` · GitHub repository · tiered curriculum (Tier 1–3) · MIT licence · by Wafer (wafer-ai): Company material with a hiring note, but the evidence is mostly primary sources. Table of contents sieved: only topics became nodes; tiers kept as link labels.

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/tensorcores · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30