Reddit
Поддержка модели DeepSeek V4.1 Flash в фреймворке ds4
Разработчик antirez добавил в свой инструмент ds4 поддержку новой версии модели DeepSeek V4.1 Flash, обновив совместимость с новыми энграммами и визуальным блоком. Изменения затрагивают около 40% тензоров маршрутизируемых экспертов и 50% тензоров визуального модуля, при этом архитектура остается прежней. Ожидается выпуск смешанного квантования Q2-Q8 для работы на M5 Max с производительностью около 20 токенов в секунду.
score 40r/LocalLLaMA