Reddit
Почему стоит использовать полный n-gram-таблицу для Qwen 3.8 Flash Next
Автор делится опытом использования полнокачественной FP8 n-gram-таблицы (PLE) для модели Qwen 3.8 Flash Next в среде Strata. Замена сильно квантованной таблицы на FP8-версию снижает количество галлюцинаций и ошибок модели без влияния на скорость генерации, требуя лишь дополнительного места на диске.
score 40r/LocalLLaMA