Dyna i przeszukiwanie priorytetowe

Dyna-style planning and prioritized sweeping · id dyna · aliases: Dyna, Dyna-Q, prioritized sweeping, przeszukiwanie priorytetowe

Architektura łącząca uczenie bezpośrednie z prawdziwych przejść z planowaniem na przejściach symulowanych przez wyuczony model, z tymi samymi aktualizacjami wartości dla obu.

An architecture combining direct learning from real transitions with planning on transitions simulated by a learned model, using the same value updates for both.

In one sentence

Program po każdym prawdziwym kroku dodatkowo „przećwicza w głowie” kilka wyobrażonych kroków, korzystając z zapamiętanego obrazu świata.

After each real step, the program also rehearses a few imagined steps in its head, using its learned picture of the world.

Problem it solves

Zbieranie prawdziwych doświadczeń jest wolne lub drogie, więc każde z nich warto wykorzystać jak najpełniej.

Gathering real experience is slow or costly, so each one should be used as fully as possible.

What it does

Jak szachista, który po każdej partii rozgrywa w myślach warianty, zamiast czekać na kolejną prawdziwą grę.

Like a chess player who replays variations mentally after each game, instead of waiting for the next real one.

Everyday example

Robot magazynowy po kilku przejazdach odtwarza w pamięci trasę i szybciej uczy się omijać zatory.

A warehouse robot, after a few trips, replays the route in memory and learns faster to avoid jams.

This concerns you if you…

Related topics

Sources