Reddit
Новая квантованная модель Qwen3.8-27B (EXL3) с минимальной ошибкой KLD
Пользователь yeasah представил квантованную версию модели Qwen3.8-27B в формате EXL3, достигнув рекордно низкого значения KLD (0.0002) при объеме весов всего 18.8 ГБ VRAM. Это решение превосходит аналоги от Unsloth и других авторов по соотношению качества и потребления памяти.
score 40r/LocalLLaMA