Reddit
Qwen3.6-27B-3bit-mlx: Смешанное квантование для Mac с ограниченной памятью
Опубликована версия модели Qwen3.6-27B с смешанным квантованием 3 и 5 бит, оптимизированная для работы на Mac через MLX. Новое решение обеспечивает вдвое большую скорость по сравнению с предыдущими квантованными версиями и сохраняет качество в агентских задачах. Это позволяет запускать модель на устройствах с нехваткой оперативной памяти.
score 17r/LocalLLaMA