Liczenie większości operacji w krótszych formatach liczb przy zachowaniu kluczowych wartości w pełnej precyzji. Zmniejsza zużycie pamięci i przyspiesza trening na nowoczesnych GPU.
Running most operations in shorter number formats while keeping key values in full precision. It cuts memory use and speeds up training on modern GPUs.
To trening wykorzystujący różną dokładność zapisu liczb dla różnych części obliczeń.
This trains models using different numerical precision for different parts of the computation.
Pełna dokładność wszystkich liczb zajmuje dużo pamięci i może niepotrzebnie spowalniać trening.
Full precision for every number consumes substantial memory and can unnecessarily slow training.
Wiele operacji korzysta z krótszego zapisu, a wrażliwe wartości zachowują większą dokładność, ograniczając błędy i koszt tam, gdzie to możliwe.
Many operations use shorter formats while sensitive values retain greater precision, limiting errors and reducing costs where possible.
W treningu modelu zdjęć używasz krótszych liczb do mnożenia, ale zachowujesz dokładniejszy zapis ważnych aktualizacji.
When training an image model, you use shorter numbers for multiplication but retain more precise representations for important updates.