Serce obliczeń AI: jak z mnożenia macierzy wycisnąć wydajność bliską możliwościom sprzętu.
The heart of AI compute: squeezing near-peak hardware throughput out of matrix multiplication.
To wydajne mnożenie tabel liczb, na którym opiera się wiele obliczeń modeli.
This efficiently multiplies number arrays, a foundation of many model calculations.
Sieć wielokrotnie mnoży duże zestawy liczb, więc niewydajna implementacja spowalnia cały model.
A network repeatedly multiplies large number arrays, so inefficient implementation slows the entire model.
Program dzieli tabele na bloki, ponownie wykorzystuje załadowane dane i dopasowuje pracę do jednostek mnożących sprzętu.
A program splits arrays into blocks, reuses loaded data and matches execution to the hardware's multiplication units.
Przyspieszasz warstwę modelu, mierząc różne sposoby mnożenia jej tabel ustawień i danych wejściowych.
You accelerate a model layer by measuring different ways to multiply its parameter and input arrays.