Reddit
DeepSeek V4 Flash 0731: ловушки локального запуска, вызовы инструментов и конфигурация
Автор описывает технические проблемы при локальном запуске модели DeepSeek V4 Flash, включая сбои в работе инструментов (tool call) и кэшировании в oMLX. Описаны ошибки конфигурации Unsloth Studio и переход на Hermes Agent для обхода ограничений. Материал актуален для разработчиков, настраивающих инференс LLM на оборудовании Apple Silicon.
score 40r/LocalLLaMA