DeepSeek V4 Flash на MacBook M5 Pro: 10–17 токенов/сек через SSD-стриминг

Энтузиаст успешно запустил модель DeepSeek V4 Flash на MacBook M5 Pro с 64GB унифицированной памяти, достигнув скорости генерации 10–17 токенов в секунду. Используется режим SSD-стриминга из проекта ds4 (DwarfStar) от antirez: маршрутизируемые эксперты подгружаются с диска при промахах кэша, что позволяет запускать большие модели на потребительском железе.