Назад к дайджесту
Reddit

Квантование QUASAR для Qwen3.5, Gemma 4 и Muse Glimmer: точность ближе к BF16, чем у решений от Google и NVIDIA

Проект QUASAR представил контрольные точки с обучением, учитывающим квантование (QAT), для моделей Qwen3.5, Gemma 4 и Muse Glimmer в форматах NVFP4 и GGUF. Тестирование показывает, что новые чекпоинты превосходят аналоги от Google и NVIDIA по метрике KL-дивергенции и сохраняют производительность на уровне модели BF16 в бенчмарках.

score 70r/LocalLLaMA