Uczenie z różnic czasowych (TD) i metody Monte Carlo

Temporal-difference learning and Monte Carlo methods · id tdlearning · aliases: temporal-difference learning, TD learning, TD(λ), SARSA, Monte Carlo methods, metody Monte Carlo, różnice czasowe

Uczenie funkcji wartości z doświadczenia bez modelu środowiska: Monte Carlo uśrednia pełne zwroty z epizodów, a TD aktualizuje oceny po każdym kroku na podstawie oceny następnego stanu.

Learning value functions from experience without an environment model: Monte Carlo averages full episode returns, while TD updates estimates after every step using the next state's estimate.

In one sentence

To uczenie się oceny sytuacji z własnych prób: po całym przebiegu albo już po każdym kolejnym kroku.

This learns how good situations are from your own attempts: after a whole run, or already after every next step.

Problem it solves

Nie znasz reguł świata, a czekanie z wnioskami do samego końca długiego zadania bardzo spowalnia naukę.

You do not know the world's rules, and waiting until the very end of a long task to draw conclusions slows learning badly.

What it does

Działa jak poprawianie prognozy dojazdu w trakcie podróży: każdy przejechany odcinek koryguje wcześniejsze oczekiwanie, zanim dotrzesz na miejsce.

It works like updating your arrival estimate during a trip: each stretch you cover corrects the earlier expectation before you get there.

Everyday example

Kierowca szacuje czas powrotu do domu i poprawia go, gdy utknie w korku, zamiast czekać, aż wejdzie do mieszkania.

A driver estimates when they will get home and revises it on hitting a traffic jam, instead of waiting until they walk through the door.

This concerns you if you…

Examples

Related topics

Sources