Reddit
Сравнение квантованных версий Qwen3.8: IQ3_S против UD-Q4_K_XL
Проведено сравнение производительности квантованных версий моделей Qwen3.8-Next (IQ3_S) и Qwen3.8-27B (UD-Q4_K_XL) на бенчмарках AIME, IFEval, BFCL и LiveCodeBench. Результаты показывают, что модель Next с более агрессивным квантованием демонстрирует сопоставимую или лучшую точность при меньшем количестве ошибок, хотя и уступает в скорости генерации токенов на тестовом оборудовании.
score 40r/LocalLLaMA