Назад к дайджесту
Reddit

Запуск DeepSeek V4 Pro на домашней рабочей станции

Пользователь успешно запустил локально квантованную модель DeepSeek V4 Pro (Q4_K_M) с помощью модифицированного llama.cpp и CUDA. Тестирование на рабочей станции с GPU NVIDIA RTX PRO 6000 Max-Q показало корректную работу инференса без ошибок. Материал демонстрирует возможности локального развёртывания передовых LLM на потребительском оборудовании.

score 36r/LocalLLaMA