Zapis wag w niskiej precyzji z kalibracją warstwa po warstwie, żeby utrzymać jakość przy 4 bitach i mniej.
Storing weights in low precision with layer-by-layer calibration to keep quality at 4 bits and below.
To zapisywanie ustawień modelu mniej dokładnymi liczbami, żeby zajmowały mniej miejsca.
This stores model parameters with lower-precision numbers so they occupy less space.
Sam zapis ustawień modelu jest zbyt duży dla dostępnej pamięci.
The model's parameter storage alone is too large for available memory.
Wartości zaokrągla się do mniejszej liczby poziomów, dobierając skalę na przykładach i sprawdzając wpływ na odpowiedzi.
Values are rounded to fewer levels, with scales calibrated on examples and effects on responses checked.
Pobierasz oszczędniej zapisany model, który mieści się na laptopie, i testujesz go na swoich pytaniach.
You download a compactly stored model that fits on a laptop and test it on your questions.