# Uczenie ciągłe i transfer

EN: **Continual and transfer learning** · id `continual`

Path: [AI Atlas](https://aiatlasgraph.com/llms.txt) › [Trenowanie i dostrajanie](https://aiatlasgraph.com/t/training.md) › Uczenie ciągłe i transfer

## Description

- PL: Adaptacja do nowych danych i zadań.
- EN: Adapting to new data and new tasks.

## In one sentence

- PL: To rozwijanie już wyuczonego modelu o nowe dane, zadania i poprawki bez zaczynania całej nauki od początku.
- EN: This develops a trained model with new data, tasks and corrections without restarting all learning from scratch.

## Problem it solves

- PL: Zmienia się dziedzina lub potrzebna wiedza, a wcześniejszy model nie nadąża albo traci stare umiejętności podczas aktualizacji.
- EN: The domain or required knowledge changes, and an earlier model falls behind or loses old abilities during updates.

## What it does

- PL: Dalsze uczenie wykorzystuje wcześniejsze ustawienia, a kontrola starych zadań i ukierunkowane poprawki pomagają ograniczyć skutki uboczne adaptacji.
- EN: Further training reuses existing parameters, while checks on earlier tasks and targeted corrections help limit adaptation side effects.

## Everyday example

- PL: Dostosowujesz model do nowych zgłoszeń klientów, jednocześnie sprawdzając, czy nadal poprawnie rozpoznaje wcześniejsze rodzaje problemów.
- EN: You adapt a model to new customer requests while checking it still recognises earlier problem types correctly.

## This concerns you if you…

- PL: dane i zadania zmieniają się z czasem
- PL: chcesz wykorzystać wcześniej wyuczony model
- EN: work with data and tasks that change over time
- EN: want to reuse a previously trained model

## Keywords

catastrophic forgetting · EWC · experience replay · continued pretraining · domain adaptation · knowledge editing · ROME · MEMIT

## How it works

- PL: Kolejne porcje danych lub zadania aktualizują model przy zachowaniu celu dla wcześniejszych zdolności. Replay, regularizacja parametrów i wydzielone moduły ograniczają interferencję, a ewaluacja mierzy adaptację, zapominanie oraz transfer między etapami.
- EN: Successive data batches or tasks update models while retaining objectives for earlier capabilities. Replay, parameter regularisation and separate modules limit interference, while evaluation measures adaptation, forgetting and transfer across stages.

## Limits

- PL: Dane historyczne mogą być niedostępne, a cele etapów sprzeczne. Zachowanie starych zdolności kosztuje pamięć lub ogranicza adaptację; wyniki zależą od kolejności i sposobu testowania zadań.
- EN: Historical data may be unavailable and stage objectives conflict. Retaining old capabilities costs memory or restricts adaptation; outcomes depend on task order and evaluation design.

## Key terms

- PL: **interferencja**: Wpływ nowych aktualizacji pogarszający reprezentacje potrzebne do wcześniejszych zadań.
- PL: **replay**: Ponowne używanie dawnych przykładów lub ich zamienników podczas adaptacji.
- EN: **interference**: New updates impairing representations needed for earlier tasks.
- EN: **replay**: Reusing earlier examples or substitutes during adaptation.

## Know first

- [Trening od zera / pretraining (Training from scratch and pretraining)](https://aiatlasgraph.com/t/pretraining.md)
- [Przeuczenie, niedouczenie i regularyzacja (Overfitting, underfitting and regularisation)](https://aiatlasgraph.com/t/biasvariance.md)

## Examples

- PL: katastrofalne zapominanie · continued pretraining na danych dziedzinowych · edycja wiedzy
- EN: catastrophic forgetting · domain-adaptive continued pretraining · knowledge editing

## Subtopics (4 direct, 4 in total)

- [Dotrenowanie na tekstach z dziedziny (continued pretraining) (Continued (domain-adaptive) pretraining)](https://aiatlasgraph.com/t/continuedpretraining.md): An additional pretraining phase of an existing model on unlabelled data from a selected domain, task or language, usually before downstream fine-tuning. It aims to adapt the model to a new data distribution and vocabulary.
- [Edycja wiedzy w modelu (ROME, MEMIT) (Knowledge editing in language models)](https://aiatlasgraph.com/t/knowledgeediting.md): A targeted change to facts or behaviours stored in a model without full retraining — by editing weights or using external memory. The goal is to limit side effects outside the edit's scope, but this is not guaranteed.
- [Katastrofalne zapominanie i jego ograniczanie (Catastrophic forgetting and its mitigation)](https://aiatlasgraph.com/t/forgetting.md): While learning new data or tasks, a network may lose earlier capabilities. Mitigation methods include replaying earlier data, protecting important weights and reducing the scope of parameter updates.
- [Selektywny nadzór eksperta w ciągłym treningu agentów (Selective expert supervision in continual agent reinforcement learning)](https://aiatlasgraph.com/t/tsrlcontinual.md): RL as backbone with selective SFT activated on hard states for continual agent training.

## Related topics

Untyped, symmetric "see also" links.

- [Dostrajanie modeli wizyjnych do własnych danych (Fine-tuning vision models on custom data)](https://aiatlasgraph.com/t/visiontransfer.md)
- [Uczenie przyrostowe (online) na strumieniach danych (Online and incremental learning on data streams)](https://aiatlasgraph.com/t/onlinelearning.md)
- [Uczenie w czasie testu (Test-time training)](https://aiatlasgraph.com/t/testtimeadapt.md)
- [Wykrywanie dryfu danych i pojęć (Data and concept drift detection)](https://aiatlasgraph.com/t/driftdetection.md)

## Sources

- [Stanford CS336 · Language Modeling from Scratch (2025)](<https://cs336.stanford.edu/spring2025/>) `cs336` · reference: Budowa modeli, dane, trening, systemy, inferencja i post-training.
- [Berkeley CS185/285 · Deep Reinforcement Learning (2026)](<https://rail.eecs.berkeley.edu/deeprlcourse/>) `rl` · reference: Uczenie przez wzmacnianie, imitacja, sterowanie i RL dla LLM.

---

AI Atlas revision 122 (2026-10-30) · HTML: https://aiatlasgraph.com/t/continual · index: https://aiatlasgraph.com/llms.txt · everything: https://aiatlasgraph.com/llms-full.txt · updated 2026-10-30