# Uczenie wieloagentowe (MARL)

EN: **Multi-agent reinforcement learning (MARL)** · id `marl`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Uczenie ze wzmocnieniem i decyzje](https://aiatlasgraph.com/t/decisions.md) › Uczenie wieloagentowe (MARL)

## Description

- PL: Wielu uczących się agentów w jednym środowisku: współpraca, rywalizacja i gra z samym sobą. Łączy RL z teorią gier.
- EN: Many learning agents in one environment: cooperation, competition and self-play. Combines RL with game theory.

## In one sentence

- PL: To uczenie wielu programów wyboru działań, gdy współpracują lub rywalizują w jednym otoczeniu.
- EN: This teaches several programs to choose actions while cooperating or competing in one environment.

## Problem it solves

- PL: Wynik twojego działania zależy od innych uczestników, którzy również uczą się i zmieniają swoje zachowanie.
- EN: Your action's outcome depends on other participants who also learn and change their behaviour.

## What it does

- PL: Ćwiczy interakcje wielu uczestników, ocenia indywidualne lub wspólne wyniki i aktualizuje ich wybory z uwzględnieniem pozostałych.
- EN: It practises interactions among participants, scores individual or shared outcomes and updates their choices while accounting for the others.

## Everyday example

- PL: W symulowanym magazynie wózki uczą się ustępować sobie na skrzyżowaniach i dzielić zadania, żeby wspólnie dostarczać paczki.
- EN: In a simulated warehouse, carts learn to yield at junctions and share tasks to deliver parcels together.

## This concerns you if you…

- PL: kilku uczestników wpływa wzajemnie na swoje wyniki
- PL: chcesz uczyć współpracy, rywalizacji lub podziału zadań
- EN: have participants whose actions affect each other's outcomes
- EN: want to learn cooperation, competition or task sharing

## Keywords

self-play · centralized training decentralized execution · MAPPO · credit assignment · Markov games · opponent modeling · QMIX

## How it works

- PL: Polityki wielu agentów wspólnie wpływają na przejścia i nagrody środowiska. Uczenie niezależne, wspólny krytyk lub self-play aktualizują zachowania wobec partnerów i przeciwników, czasem przy scentralizowanym treningu i rozproszonym wykonaniu.
- EN: Multiple agents' policies jointly influence environment transitions and rewards. Independent learning, shared critics or self-play update behaviour against partners and opponents, sometimes combining centralised training with decentralised execution.

## Limits

- PL: Zmiany innych agentów powodują niestacjonarność danych. Wspólna nagroda utrudnia przypisanie zasługi, a współpraca z wyuczonym partnerem nie gwarantuje współpracy z nowym.
- EN: Other agents' changes make data nonstationary. Shared rewards complicate credit assignment, and cooperation with a trained partner does not guarantee cooperation with a new one.

## Key terms

- PL: **self-play**: Uczenie przez interakcję z własnymi lub historycznymi wersjami polityk.
- PL: **credit assignment**: Ustalanie, które działania lub agenci odpowiadają za otrzymany wynik.
- EN: **self-play**: Learning through interaction with current or historical versions of policies.
- EN: **credit assignment**: Determining which actions or agents contributed to an outcome.

## Know first

- [Proces decyzyjny Markowa (MDP) (Markov decision processes (MDP))](https://aiatlasgraph.com/t/mdp.md)
- [Metody aktor–krytyk (A2C, SAC) (Actor–critic methods (A2C, SAC))](https://aiatlasgraph.com/t/actorcritic.md)

## Examples

- PL: Self-play · scentralizowany trening, zdecentralizowane działanie · MAPPO · teoria gier
- EN: Self-play · centralised training, decentralised execution · MAPPO · game theory

## Subtopics (3 direct, 5 in total)

- [Scentralizowany trening, zdecentralizowane działanie (CTDE) (Centralised training for decentralised execution (CTDE))](https://aiatlasgraph.com/t/marlctde.md): A cooperative MARL paradigm: training may use global state and other agents' data, while execution relies only on local observation histories.
  - [Faktoryzacja wartości w kooperacyjnym MARL (Value-function factorisation for cooperative MARL)](https://aiatlasgraph.com/t/valuedecomp.md): Value-based CTDE methods representing the joint Q-function as a composition of per-agent Q-functions consistent with the Individual-Global-Max principle.
  - [Scentralizowani krytycy w wieloagentowym aktorze–krytyku (Centralised critics in multi-agent actor–critic)](https://aiatlasgraph.com/t/centralcritic.md): Multi-agent actor–critic methods where decentralised actors learn from critics that can access additional information about other agents during training.
- [Uczenie komunikacji między agentami (Learned multi-agent communication (emergent communication))](https://aiatlasgraph.com/t/emergentcomm.md): A MARL direction in which partially observing agents learn communication protocols end-to-end, together with their action policies.
- [Współpraca z nieznanymi partnerami (ad hoc teamwork) (Ad hoc teamwork)](https://aiatlasgraph.com/t/adhocteamwork.md): The problem of designing agents that cooperate with previously unseen partners without prior coordination, including zero-shot coordination with humans.

## Related topics

Untyped, symmetric "see also" links.

- [Algorytmy RL (Reinforcement learning algorithms)](https://aiatlasgraph.com/t/rlalgorithms.md)
- [Równowaga Nasha i rozwiązywanie gier (Nash equilibrium and solving games)](https://aiatlasgraph.com/t/nashequilibria.md)
- [Uczenie przez grę z samym sobą (self-play) (Self-play and league training)](https://aiatlasgraph.com/t/selfplay.md)

## Sources

- [Hugging Face Deep Reinforcement Learning Course — unit list](<https://huggingface.co/learn/deep-rl-course/unit0/introduction>) `hf-deep-rl-course` · by Hugging Face
- [Multi-Agent Reinforcement Learning: Foundations and Modern Approaches](<https://www.marl-book.com/>) `marl-book-2024` · by S. V. Albrecht, F. Christianos, L. Schäfer

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/marl · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30
