Przeuczenie, niedouczenie i regularyzacja

Overfitting, underfitting and regularisation · id biasvariance

Kompromis między modelem zbyt prostym (nie łapie wzorca) a zbyt dopasowanym do danych treningowych (uczy się szumu) oraz techniki, które temu przeciwdziałają.

The trade-off between a model that is too simple (misses the pattern) and one fitted too closely to training data (learns noise), and techniques that counter it.

In one sentence

To rozpoznawanie, czy model upraszcza zadanie za mocno, czy zapamiętuje szczegóły zamiast uczyć się wspólnego wzorca.

This checks whether a model oversimplifies a task or memorises details instead of learning a shared pattern.

Problem it solves

Model może mylić się wszędzie albo świetnie wypadać na znanych danych i zawodzić na nowych.

A model may perform poorly everywhere, or excel on familiar data and fail on new cases.

What it does

Porównuje błędy na danych do nauki i sprawdzania oraz ogranicza nadmierne dopasowanie przez zmianę złożoności, dodatkowe kary lub wcześniejsze zatrzymanie nauki.

It compares learning and validation errors, then limits excessive fitting through complexity changes, additional penalties or stopping learning earlier.

Everyday example

Model zapamiętuje poprzednie zamówienia, ale źle przewiduje nowe; ograniczasz jego złożoność i sprawdzasz, czy poprawia to wynik.

A model memorises past orders but predicts new ones poorly; you limit its complexity and check whether that improves performance.

This concerns you if you…

Examples

Related topics

Sources