Назад к дайджесту
Reddit

Поддержка модели DeepSeek V4.1 Flash в фреймворке ds4

Разработчик antirez добавил в свой инструмент ds4 поддержку новой версии модели DeepSeek V4.1 Flash, обновив совместимость с новыми энграммами и визуальным блоком. Изменения затрагивают около 40% тензоров маршрутизируемых экспертов и 50% тензоров визуального модуля, при этом архитектура остается прежней. Ожидается выпуск смешанного квантования Q2-Q8 для работы на M5 Max с производительностью около 20 токенов в секунду.

score 40r/LocalLLaMA