Modele językowe zoptymalizowane do działania lokalnie na telefonie lub laptopie, często z użyciem NPU, kwantyzacji i innych technik oszczędzania pamięci. Przetwarzanie na urządzeniu może utrzymywać dane lokalnie i umożliwiać pracę offline; architektury hybrydowe mogą kierować wybrane żądania do modelu chmurowego.
Language models optimised to run locally on a phone or laptop, often using an NPU, quantisation and other memory-saving techniques. On-device processing can keep data local and support offline use; hybrid architectures may route selected requests to a cloud model.
To modele językowe dopasowane do pracy bezpośrednio na telefonie lub laptopie.
These language models are adapted to run directly on phones or laptops.
Chcesz odpowiedzi na urządzeniu, ale duży model zużywa zbyt dużo pamięci, energii lub czasu.
You want on-device responses, but a large model uses too much memory, energy or time.
Mniejsze konstrukcje i oszczędne obliczenia korzystają z dostępnych układów; lokalne działanie może być łączone z serwerem dla wybranych zadań.
Smaller designs and efficient computation use available chips; local execution can be combined with server processing for selected tasks.
Telefon podsumowuje krótki zapis rozmowy lokalnym modelem, nawet gdy jesteś poza zasięgiem.
A phone summarises a short conversation transcript with a local model even when you have no signal.