Назад к дайджесту
Reddit

Qwen3.6-27B-3bit-mlx: Смешанное квантование для Mac с ограниченной памятью

Опубликована версия модели Qwen3.6-27B с смешанным квантованием 3 и 5 бит, оптимизированная для работы на Mac через MLX. Новое решение обеспечивает вдвое большую скорость по сравнению с предыдущими квантованными версиями и сохраняет качество в агентских задачах. Это позволяет запускать модель на устройствах с нехваткой оперативной памяти.

score 17r/LocalLLaMA