Reddit
Возможно, лучшие кванты основной линейки Qwen3.8 27B?
Автор выпустил квантованные версии модели Qwen 3.8 27B, которые, по его утверждению, превосходят существующие кванты от ISTA и Unsloth по качеству на трёх корпусах. Тестирование проводилось трижды с использованием метрик KLD и top 1%. На создание ушла неделя вычислений на одном устройстве Strix Halo.
score 40r/LocalLLaMA