Reguły zamieniające gradient w aktualizację wag: od SGD z momentum, przez adaptacyjne Adam i AdamW, po nowsze optymalizatory macierzowe, takie jak Muon.
Rules that turn a gradient into a weight update: from SGD with momentum, through adaptive Adam and AdamW, to newer matrix-aware optimisers such as Muon.
To reguły wykorzystujące informację o błędzie do wyznaczania poprawek ustawień modelu.
These rules use error information to determine model-parameter updates.
Wiesz, w którą stronę zmiana może zmniejszyć błąd, ale musisz jeszcze dobrać sposób jej wykonania.
You know which direction might reduce error but still need to choose how to make the update.
Algorytm może używać bieżącego sygnału, historii zmian i różnej skali dla ustawień, żeby wyznaczać kolejne poprawki.
An algorithm can use current signals, update history and different parameter scales to determine subsequent adjustments.
Porównujesz reguły aktualizacji na tym samym modelu kwiatów, obserwując tempo uczenia i jakość na nowych zdjęciach.
You compare update rules on the same flower model, observing learning speed and quality on new photos.