Uczenie ciągłe i transfer

Continual and transfer learning · id continual

Adaptacja do nowych danych i zadań.

Adapting to new data and new tasks.

In one sentence

To rozwijanie już wyuczonego modelu o nowe dane, zadania i poprawki bez zaczynania całej nauki od początku.

This develops a trained model with new data, tasks and corrections without restarting all learning from scratch.

Zmienia się dziedzina lub potrzebna wiedza, a wcześniejszy model nie nadąża albo traci stare umiejętności podczas aktualizacji.

The domain or required knowledge changes, and an earlier model falls behind or loses old abilities during updates.

Dalsze uczenie wykorzystuje wcześniejsze ustawienia, a kontrola starych zadań i ukierunkowane poprawki pomagają ograniczyć skutki uboczne adaptacji.

Further training reuses existing parameters, while checks on earlier tasks and targeted corrections help limit adaptation side effects.

Dostosowujesz model do nowych zgłoszeń klientów, jednocześnie sprawdzając, czy nadal poprawnie rozpoznaje wcześniejsze rodzaje problemów.

You adapt a model to new customer requests while checking it still recognises earlier problem types correctly.

katastrofalne zapominanie · continued pretraining na danych dziedzinowych · edycja wiedzy
catastrophic forgetting · domain-adaptive continued pretraining · knowledge editing

Dotrenowanie na tekstach z dziedziny (continued pretraining) (Continued (domain-adaptive) pretraining): An additional pretraining phase of an existing model on unlabelled data from a selected domain, task or language, usually before downstream fine-tuning. It aims to adapt the model to a new data distribution and vocabulary.
Edycja wiedzy w modelu (ROME, MEMIT) (Knowledge editing in language models): A targeted change to facts or behaviours stored in a model without full retraining — by editing weights or using external memory. The goal is to limit side effects outside the edit's scope, but this is not guaranteed.
Katastrofalne zapominanie i jego ograniczanie (Catastrophic forgetting and its mitigation): While learning new data or tasks, a network may lose earlier capabilities. Mitigation methods include replaying earlier data, protecting important weights and reducing the scope of parameter updates.
Selektywny nadzór eksperta w ciągłym treningu agentów (Selective expert supervision in continual agent reinforcement learning): RL as backbone with selective SFT activated on hard states for continual agent training.

Stanford CS336 · Language Modeling from Scratch (2025) · reference: Budowa modeli, dane, trening, systemy, inferencja i post-training.
Berkeley CS185/285 · Deep Reinforcement Learning (2026) · reference: Uczenie przez wzmacnianie, imitacja, sterowanie i RL dla LLM.