Rozkładanie aktywacji modelu na wiele rzadko aktywnych cech, z których część daje się powiązać ze zrozumiałymi pojęciami. Interpretowalność cech i użyteczność SAE w zadaniach praktycznych nie są gwarantowane.
Decomposing model activations into many sparsely active features, some of which can be associated with understandable concepts. Feature interpretability and practical downstream usefulness are not guaranteed.
To narzędzia rozkładające mieszane sygnały modelu na składniki, z których tylko nieliczne są naraz aktywne.
These tools separate mixed model signals into components with only a few active at once.
Pojedynczy wewnętrzny sygnał może mieszać wiele znaczeń, więc trudno powiązać go z konkretnym pojęciem.
One internal signal can mix many meanings, making it difficult to connect with a specific concept.
Uczy zestaw składników odtwarzających wewnętrzne liczby przy nielicznych aktywnych elementach; część składników można interpretować, ale nie jest to gwarantowane.
It learns components reconstructing internal numbers with few active elements; some components may be interpretable, but that is not guaranteed.
Przy różnych opisach ogrodu szukasz powtarzalnego składnika związanego z roślinami i sprawdzasz, czy reaguje także na inne treści.
Across garden descriptions, you seek a recurring component associated with plants and check whether it also responds to other content.