Reddit
Лучший способ запускать DeepSeek-V4-Flash на Mac прямо сейчас (192GB+ VRAM)
Пользователь поделился квантованной версией DeepSeek-V4-Flash в формате MXFP4 для фреймворка MLX, оптимизированной для Mac на чипе M3 Ultra. Модель поддерживает dspark/mtp и показывает рост скорости генерации с 34 до 43 токенов в секунду в процессе работы.
score 40r/LocalLLaMA