TRPO i naturalny gradient polityki

Trust region policy optimisation and natural policy gradient · id trpo · aliases: TRPO, trust region policy optimization, natural policy gradient, NPG

Optymalizacja polityki z ograniczeniem dywergencji KL między starą a nową polityką (region zaufania), spokrewniona z naturalnym gradientem i wyprowadzona z teoretycznej granicy monotonicznej poprawy.

Policy optimisation constrained by the KL divergence between old and new policy (a trust region), related to the natural gradient and derived from a theoretical monotonic-improvement bound.

In one sentence

Metoda poprawiania zachowania programu małymi, bezpiecznymi krokami, żeby jedna zła zmiana nie zepsuła wszystkiego.

A method to improve a program's behaviour in small, safe steps so one bad change does not ruin everything.

Problem it solves

Zbyt duża zmiana sposobu działania potrafi w jednej chwili zniszczyć to, czego program uczył się godzinami.

A change to behaviour that is too big can destroy in an instant what a program learned over hours.

What it does

Jak trener, który każdego dnia zmienia technikę zawodnika tylko odrobinę, sprawdzając, czy wyniki się nie pogarszają.

Like a coach who changes an athlete's technique only slightly each day, checking that results do not get worse.

Everyday example

Symulowany robot uczy się chodu bez nagłych upadków, bo każda poprawka różni się niewiele od poprzedniego stylu chodzenia.

A simulated robot learns to walk without sudden collapses, because each tweak barely differs from its previous gait.

This concerns you if you…

Related topics

Sources