Obniżenie precyzji także dla aktywacji. Wymaga oswojenia wartości odstających, które psują skalę.
Lowering precision for activations too. Requires taming outlier values that break the scale.
To ograniczanie dokładności zarówno ustawień modelu, jak i liczb powstających podczas jego pracy.
This lowers precision for both model parameters and the numbers produced during execution.
Mniejszy plik modelu nie wystarcza, jeśli dalsze obliczenia nadal wymagają dużych zapisów pośrednich.
A smaller model file is insufficient if computation still requires large intermediate representations.
Skale dobiera się także dla sygnałów wewnętrznych, uwzględniając nietypowo duże wartości, które mogą zwiększać błąd zaokrąglania.
Scales are also chosen for internal signals, accounting for unusually large values that can increase rounding errors.
Przed wdrożeniem modelu sprawdzasz, czy mniej dokładne sygnały pośrednie przyspieszają obliczenia bez nadmiernego pogorszenia wyników.
Before deploying a model, you check whether lower-precision intermediate signals accelerate computation without excessive quality loss.