Trenowanie populacyjne (Population Based Training)

Population Based Training (PBT) · id pbt · aliases: Population Based Training, PBT, trenowanie populacyjne

Asynchroniczna metoda wspólnej optymalizacji wag i hiperparametrów populacji modeli, odkrywająca harmonogram hiperparametrów zamiast stałego ustawienia.

An asynchronous method jointly optimising weights and hyperparameters of a model population, discovering a hyperparameter schedule rather than one fixed setting.

In one sentence

Wiele kopii modelu trenuje się równolegle, a słabsze co jakiś czas kopiują lepsze i lekko zmieniają ich ustawienia.

Many copies of a model train in parallel, and weaker ones periodically copy better ones and slightly change their settings.

Problem it solves

Dobre ustawienia trenowania zmieniają się w trakcie nauki, a osobne próby każdej kombinacji marnują tygodnie obliczeń.

Good training settings change during learning, and separate trials of every combination waste weeks of compute.

What it does

Jak wyścig, w którym maruderzy mogą w połowie trasy przesiąść się do auta lidera i lekko przestawić jego ustawienia.

Like a race where stragglers can jump into the leader's car midway and slightly retune its settings.

Everyday example

Laboratorium uczy agenta gry; zamiast stu osobnych prób, trzydzieści kopii trenuje razem, a najsłabsze przejmują postępy najlepszych.

A lab trains a game-playing agent; instead of a hundred separate trials, thirty copies train together and the weakest take over the best ones' progress.

This concerns you if you…

Sources