Nauczenie modelu od początkowych wag. Pretraining to etap przygotowujący do dalszego użycia lub adaptacji.
Teaching a model from initial weights. Pretraining is the stage that prepares it for later use or adaptation.
To podstawowy etap uczenia modelu wzorów w dużym zbiorze danych, zanim zostanie dopasowany do konkretnych zadań.
This initial stage teaches a model patterns in a large dataset before it is adapted to specific tasks.
Model z początkowymi ustawieniami nie zna wzorów języka lub obrazu potrzebnych do dalszego użycia.
A model with initial parameters lacks the language or image patterns needed for later use.
Powtarzane ćwiczenia na danych dostarczają błędu do poprawiania ustawień, tworząc podstawę późniejszych umiejętności i dostrajania.
Repeated exercises on data produce error signals that adjust parameters, building a foundation for later abilities and adaptation.
Model językowy ćwiczy na wielu tekstach przewidywanie dalszego ciągu, zanim dostanie przykłady rozmów z użytkownikiem.
A language model practises predicting continuations across many texts before receiving examples of user conversations.