Назад к дайджесту
Reddit

Бенчмарки GGUF для Gemma 4 26B-A4B

Команда Unsloth провела сравнительное тестирование квантованных версий модели Gemma 4 26B-A4B в формате GGUF. Результаты KL Divergence показали, что их квантования занимают лидирующие позиции по сохранению точности. Также представлены обновлённые динамические квантования Q6_K и новый формат UD-IQ4_NL_XL для работы в 16 ГБ видеопамяти.

score 100r/LocalLLaMA