Назад к дайджесту
Reddit

DeepSeek V4 Flash 0731: ловушки локального запуска, вызовы инструментов и конфигурация

Автор описывает технические проблемы при локальном запуске модели DeepSeek V4 Flash, включая сбои в работе инструментов (tool call) и кэшировании в oMLX. Описаны ошибки конфигурации Unsloth Studio и переход на Hermes Agent для обхода ограничений. Материал актуален для разработчиков, настраивающих инференс LLM на оборудовании Apple Silicon.

score 40r/LocalLLaMA