# Funkcje straty (entropia krzyżowa, MSE)

EN: **Loss functions (cross-entropy, MSE)** · id `lossfunctions` · aliases: loss function, funkcja straty, funkcja kosztu, cross-entropy, entropia krzyżowa, MSE, mean squared error

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Sieci i modele generatywne](https://aiatlasgraph.com/t/neural.md) › [Podstawy sieci neuronowych](https://aiatlasgraph.com/t/neuralbasics.md) › Funkcje straty (entropia krzyżowa, MSE)

## Description

- PL: Liczba, którą trening minimalizuje: mówi, jak bardzo przewidywania odbiegają od celu. Entropia krzyżowa służy do klasyfikacji i przewidywania następnego tokenu, błąd średniokwadratowy (MSE) do regresji i m.in. do przewidywania szumu w modelach dyfuzyjnych.
- EN: The number training minimises: how far predictions are from the target. Cross-entropy is used for classification and next-token prediction; mean squared error (MSE) for regression and, among others, noise prediction in diffusion models.

## In one sentence

- PL: To sposób zapisania błędu modelu jako liczby, którą trening próbuje zmniejszyć.
- EN: This expresses a model's error as a number that training tries to reduce.

## Problem it solves

- PL: Musisz określić, które pomyłki są kosztowne, zanim model będzie mógł poprawiać swoje przewidywania.
- EN: You need to specify which mistakes are costly before a model can improve its predictions.

## What it does

- PL: Porównuje przewidywania z oczekiwanym wynikiem i nadaje pomyłkom koszt według wybranej reguły.
- EN: It compares predictions with expected outcomes and assigns mistakes a cost according to a chosen rule.

## Everyday example

- PL: Ucząc prognozy czasu dostawy, wybierasz miarę, która mocniej karze duże pomyłki niż niewielkie odchylenia.
- EN: When training delivery-time predictions, you choose a measure that penalises large mistakes more than small deviations.

## This concerns you if you…

- PL: wybierasz cel treningu
- PL: różne błędy mają dla ciebie różne znaczenie
- EN: choose a training objective
- EN: care differently about different kinds of mistakes

## Keywords

cross-entropy · MSE · label smoothing · Huber loss · loss reduction · class-weighted loss

## How it works

- PL: Strata przypisuje koszt przewidywaniu i celowi, a agregacja po przykładach definiuje optymalizowany cel. Entropia krzyżowa ocenia przypisaną prawdopodobność właściwego wyniku, natomiast strata kwadratowa penalizuje odległość liczbową i silniej waży duże błędy.
- EN: A loss assigns cost to predictions and targets, and aggregation over examples defines the objective. Cross-entropy evaluates probability assigned to the correct outcome, while squared loss penalises numerical distance and weights large errors more heavily.

## Limits

- PL: Cel zastępczy może nie odpowiadać ocenie użytkowej. Wagi klas, redukcja i wartości odstające zmieniają gradienty; błędne etykiety uczą model niewłaściwego zachowania.
- EN: A surrogate objective may not match practical evaluation. Class weights, reduction and outliers alter gradients; incorrect labels train inappropriate behaviour.

## Key terms

- PL: **cel zastępczy**: Różniczkowalny koszt używany zamiast bezpośredniej miary sukcesu zadania.
- PL: **redukcja straty**: Sposób łączenia kosztów elementów lub przykładów w jeden wynik.
- EN: **surrogate objective**: A differentiable cost used instead of a direct task-success measure.
- EN: **loss reduction**: The method of combining element or example costs into one value.

## Know first

- [Rozkłady prawdopodobieństwa (Probability distributions)](https://aiatlasgraph.com/t/distributions.md)
- [Spadek gradientu i optymalizacja ciągła (Gradient descent and continuous optimisation)](https://aiatlasgraph.com/t/mathoptimization.md)

## Examples

- PL: entropia krzyżowa (log loss) · MSE · wygładzanie etykiet (label smoothing)
- EN: cross-entropy (log loss) · MSE · label smoothing

## Related topics

Untyped, symmetric "see also" links.

- [Teoria informacji: entropia i dywergencja KL (Information theory: entropy, cross-entropy and KL divergence)](https://aiatlasgraph.com/t/infotheory.md)

## Sources

- [Understanding Deep Learning (Simon J.D. Prince) — chapter list](<https://udlbook.github.io/udlbook/>) `udlbook-toc` · by Simon J.D. Prince
- [PyTorch 2.14 docs: CrossEntropyLoss and MSELoss](<https://docs.pytorch.org/docs/2.14/generated/torch.nn.CrossEntropyLoss.html>) `pytorch-loss-docs` · by PyTorch Foundation
- [Denoising Diffusion Probabilistic Models](<https://arxiv.org/abs/2006.11239>) `ddpm-2020` · by Jonathan Ho, Ajay Jain, Pieter Abbeel

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/lossfunctions · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30