Cel pretrainingu enkoderów: model odtwarza zamaskowane tokeny na podstawie kontekstu z obu stron.
A pretraining objective for encoders: the model restores masked tokens from context on both sides.
Ćwiczenie, w którym model uczy się języka, zgadując słowa zakryte w zdaniu, jak w zadaniu z lukami.
An exercise in which a model learns language by guessing words hidden in a sentence, like a fill-in-the-blanks task.
Do rozumienia tekstu, na przykład przy wyszukiwaniu czy sortowaniu dokumentów, przydaje się patrzenie na zdanie z obu stron, nie tylko od lewej.
Understanding text, for search or sorting documents, benefits from reading a sentence from both sides, not only left to right.
Jak ćwiczenie „uzupełnij luki” w podręczniku: żeby wpisać brakujące słowo, czytasz całe zdanie przed i po luce.
Like a textbook fill-in-the-gaps exercise: to supply the missing word, you read the whole sentence before and after the gap.
Wyszukiwarka w sklepie internetowym rozumie, że „buty do biegania po lesie” i „obuwie terenowe” to to samo.
An online shop's search understands that 'shoes for running in the woods' and 'off-road footwear' mean the same thing.