Uczenie PAC i wymiar VC

PAC learning and VC dimension · id pacvc · aliases: PAC learning, probably approximately correct learning, uczenie PAC, VC dimension, wymiar VC, wymiar Vapnika-Czerwonenkisa

Formalny model uczalności: z prawdopodobieństwem co najmniej 1−δ błąd hipotezy ≤ ε, przy liczbie próbek zależnej od wymiaru VC klasy.

Formal learnability model: with probability at least 1−δ the hypothesis error is ≤ ε, with sample size depending on the class's VC dimension.

In one sentence

Sposób, by policzyć, ile przykładów potrzeba, żeby model z dużym prawdopodobieństwem mylił się tylko trochę.

A way to count how many examples are needed so a model is, with high probability, only slightly wrong.

Problem it solves

Trudno ocenić z góry, czy zebrane dane wystarczą do nauczenia zadania, czy model tylko zapamięta przypadkowe szczegóły.

It is hard to judge in advance whether collected data suffices to learn a task or whether the model will memorise accidental details.

What it does

Mierzy, ile różnych podziałów danych model potrafi odtworzyć; im bardziej giętki model, tym więcej przykładów musi zobaczyć.

It measures how many different splits of data a model can reproduce; the more flexible the model, the more examples it must see.

Everyday example

Przed zbieraniem danych do wykrywania wadliwych części ktoś szacuje, że prosty model wystarczy na mniejszej próbce niż bardzo rozbudowany.

Before collecting data to spot faulty parts, someone estimates that a simple model will do with a smaller sample than a very elaborate one.

This concerns you if you…

Related topics

Sources