Granice uogólniania: złożoność Rademachera i PAC-Bayes

Generalisation bounds: Rademacher complexity and PAC-Bayes · id genbounds · aliases: generalization bounds, generalisation bounds, granice uogólniania

Nierówności ograniczające różnicę między błędem treningowym a oczekiwanym, zależne od złożoności klasy modeli, rozkładu nad predyktorami i liczby próbek.

Inequalities bounding the gap between training and expected error, depending on model-class complexity, a distribution over predictors and sample size.

In one sentence

Matematyczne gwarancje, o ile model może się mylić na nowych danych, skoro dobrze wypadł na danych treningowych.

Mathematical guarantees of how much a model may err on new data, given that it did well on training data.

Problem it solves

Wynik na danych treningowych nie mówi, czy model sprawdzi się w prawdziwym świecie, a zbiór testowy bywa mały lub drogi.

A score on training data does not say whether a model will work in the real world, and test sets can be small or costly.

What it does

Jak gwarancja producenta: dowodzi, że przy takiej ilości danych i takiej elastyczności modelu błąd nie przekroczy pewnego poziomu.

Like a manufacturer's warranty: proves that with this much data and this much model flexibility, error will not exceed some level.

Everyday example

Zespól ocenia, ile przykładów zebrać, żeby wykrywacz usterek na taśmie produkcyjnej nie mylił się częściej niż zakładano.

A team estimates how many examples to collect so a production-line defect detector errs no more often than planned.

This concerns you if you…

Related topics

Sources