Jednostki do mnożenia macierzy i formaty liczb, które je karmią.
Matrix-multiply units and the number formats that feed them.
To wyspecjalizowane jednostki szybko wykonujące działania na blokach liczb, często zapisanych z mniejszą dokładnością.
These specialised units rapidly operate on number blocks, often stored at lower precision.
Zwykłe jednostki obliczeniowe wykonują powtarzalne mnożenia modelu wolniej, niż pozwala wyspecjalizowany sprzęt.
General computation units perform repeated model multiplications more slowly than specialised hardware can.
Łączą mnożenie i sumowanie całych bloków; odpowiedni układ danych i obsługiwany format liczb pomagają wykorzystać ich szybkość.
They combine multiplication and accumulation across blocks; suitable data layouts and supported number formats help exploit their speed.
W treningu dobierasz obsługiwany format liczb i sprawdzasz, czy mnożenia korzystają z szybkich jednostek karty.
During training, you select a supported numerical format and check whether multiplications use the card's fast units.