Teoria informacji: entropia i dywergencja KL

Information theory: entropy, cross-entropy and KL divergence · id infotheory

Miary informacji i różnicy między rozkładami; entropia krzyżowa to standardowa funkcja straty modeli językowych i klasyfikatorów.

Measures of information and of difference between distributions; cross-entropy is the standard loss of language models and classifiers.

In one sentence

To matematyka mierząca niepewność, ilość informacji i różnice między przewidywaniami.

This mathematics measures uncertainty, information and differences between predictions.

Problem it solves

Samo trafienie lub pomyłka nie pokazuje, jak pewny był model ani jak bardzo zaskoczył go wynik.

A correct or incorrect answer alone does not show the model's uncertainty or how surprising the outcome was.

What it does

Przypisuje więcej informacji mniej spodziewanym zdarzeniom i pozwala oceniać przewidywania na podstawie szans przypisanych możliwym wynikom.

It assigns more information to less expected events and evaluates predictions using the chances assigned to possible outcomes.

Everyday example

Model przewiduje następne słowo; pomyłka, której był bardzo pewny, otrzymuje większą karę niż pomyłka przy rozłożonych szansach.

A model predicts the next word; a very confident mistake receives a larger penalty than one made with more spread out probabilities.

This concerns you if you…

Examples

Related topics

Sources