Reddit
Влияние квантования на качество моделей Qwen3.8 Flash: анализ финского и английского языков
Автор исследует влияние различных уровней квантования (Q4-Q8) на точность модели Qwen3.8 Flash при работе с редкими языками, в частности финским, используя метрики KLD и Top-1%. В ходе эксперимента сравнивается обучение на вики-данных, английских и финских книгах, а также тестируется гибридная модель с добавлением n-грамм для улучшения результатов при сохранении эффективности.
score 40r/LocalLLaMA