Mechanizmy uwagi, w których każde zapytanie obsługuje tylko wybrane bloki kluczy, a wybór jest uczony razem z modelem i wspierany jądrami dopasowanymi do sprzętu.
Attention mechanisms where each query attends only to selected key blocks, with selection learned together with the model and supported by hardware-aligned kernels.
Przy długim tekście model sam wybiera, które fragmenty przeczytać dokładnie, a resztę przegląda tylko w skrócie.
With long text, the model itself picks which passages to read closely and skims the rest in summary.
Czytanie każdej pary słów w bardzo długim dokumencie jest wolne i drogie, a proste skróty gubią ważne szczegóły.
Reading every pair of words in a very long document is slow and costly, and simple shortcuts lose important details.
Jak czytanie raportu: przeglądasz streszczenia rozdziałów, wybierasz kilka ważnych stron do dokładnej lektury i pamiętasz ostatni akapit.
Like reading a report: you skim chapter summaries, pick a few key pages to read closely and keep the last paragraph in mind.
Asystent analizuje całą długą umowę i wyłapuje jeden zapis z jej środka szybciej, niż gdyby czytał wszystko słowo w słowo.
An assistant analyses a whole long contract and catches one clause from its middle faster than if it read everything word by word.