Uczenie agentów na trajektoriach wielosesyjnych

Multi-session agentic reinforcement learning · id mosaicmsarl · aliases: Mosaic, multi-session agentic RL, hierarchical multi-session advantage

Hierarchiczna optymalizacja przewag bez krytyka dla trajektorii agentów składających się z wielu sesji.

Critic-free hierarchical advantage optimization for agent trajectories composed of multiple sessions.

In one sentence

Trening agentów, który uwzględnia kilka osobnych sesji w jednej długiej próbie.

Training agents that accounts for several separate sessions inside one long trial.

Problem it solves

Trening zakłada jedną ciągłą rozmowę, a w praktyce agent dzieli pracę na sesje lub kompresuje kontekst.

Training assumes one continuous conversation, but agents split work into sessions or compress context in practice.

What it does

Porównuje całe próby i poszczególne sesje: wśród sukcesów preferuje mniej sesji, wśród porażek wspiera szerszą eksplorację, a sesjom przypisuje sygnał z poprawy przewidywalności odpowiedzi.

It compares whole trials and individual sessions: among successes it favors fewer sessions, among failures it supports broader exploration, and it gives sessions a signal from improved answer predictability.

Everyday example

Agent szuka informacji na stronie. Po kompresji historii trening wzmacnia sesje, po których poprawna odpowiedź staje się bardziej przewidywalna dla modelu.

An agent searches a site. After history compaction, training reinforces sessions after which the correct answer becomes more predictable to the model.

This concerns you if you…

Related topics

Sources