Uczenie robotów z nagrań ludzi

Learning robot skills from human videos · id humanvideo · aliases: learning from human videos, egocentric video for robotics, human video pretraining, R3M, nauka z filmów

Pretrening reprezentacji wizualnych na nagraniach ludzi, często egocentrycznych, aby ułatwić późniejsze uczenie manipulacji przez robota.

Pretraining visual representations on human video, often egocentric, to support later robot-manipulation learning.

In one sentence

Wykorzystanie zwykłych filmów, na których ludzie gotują czy sprzątają, żeby roboty szybciej uczyły się pracy rękami.

Using ordinary videos of people cooking or cleaning to help robots learn hand tasks faster.

Problem it solves

Nagrań robotów jest bardzo mało, a filmów z ludźmi wykonującymi codzienne czynności – ogromnie dużo.

Robot recordings are very scarce, while videos of people doing everyday chores are abundant.

What it does

Robot najpierw ogląda, jak ludzie obchodzą się z przedmiotami, i uczy się, na co zwracać uwagę, zanim sam spróbuje.

The robot first watches how people handle objects and learns what to pay attention to before trying itself.

Everyday example

Model uczy się reprezentacji z nagrań codziennych czynności ludzi, a potem pomaga robotowi nauczyć się otwierania szuflady z niewielu własnych demonstracji.

A model learns representations from videos of people's daily activities, then helps a robot learn drawer opening from a small number of its own demonstrations.

This concerns you if you…

Related topics

Sources