Eksploracja przez liczenie odwiedzin i optymizm

Count-based exploration and optimism under uncertainty · id countexploration · aliases: count-based exploration, pseudo-counts, exploration bonus, optimism in the face of uncertainty, premia za eksplorację

Premia eksploracyjna malejąca z liczbą odwiedzin stanu (lub pary stan–akcja), realizująca zasadę optymizmu wobec niepewności; pseudo-liczniki uogólniają ją na duże przestrzenie.

An exploration bonus that shrinks with the visit count of a state or state–action pair, implementing optimism under uncertainty; pseudo-counts extend it to large spaces.

In one sentence

Program dostaje dodatkowy punkt za odwiedzenie miejsc, w których był rzadko, więc chętniej tam zagląda.

The program earns a bonus for visiting places it has rarely been, so it is drawn there.

Problem it solves

Agent kręci się w znanych rejonach i nie wie, które miejsca są dla niego jeszcze zagadką.

An agent circles familiar areas and cannot tell which places are still a mystery to it.

What it does

Jak lista odwiedzonych sklepów: im rzadziej byłeś w danym, tym bardziej zakładasz, że może cię mile zaskoczyć.

Like a list of visited shops: the less often you have been to one, the more you assume it might surprise you.

Everyday example

Robot sprzątający zapamiętuje, gdzie już był, i kieruje się w kąty mieszkania odwiedzane najrzadziej.

A cleaning robot remembers where it has been and heads for the corners of the flat it visits least.

This concerns you if you…

Related topics

Sources