Назад к дайджесту
Reddit

Бенчмарк Qwen 3.6: MoE против Dense на Apple Silicon M5 Pro

Пользователь сравнил локальное выполнение Qwen 3.6 35B A3B (MoE) и 27B UD (Dense) на MacBook Pro M5 Pro с 64 ГБ RAM. Модель с архитектурой MoE оказалась в 8 раз быстрее и показала более высокое качество генерации кода, несмотря на меньший размер активных параметров. Тест демонстрирует практическую выгоду использования квантованных MoE-моделей на потребительском железе.

score 16r/LocalLLaMA