Назад к дайджесту
Reddit

Сборка кластера из 16x GB10 (DGX Spark)

Пользователь делится опытом настройки инфраструктуры для локального запуска передовых открытых моделей, таких как Deepseek v4, Kimi K3 и GLM 5.5. Конфигурация объединяет 16 ускорителей через высокоскоростную сеть для поддержки инференса моделей с параметрами более 2 триллионов. Это пример развертывания мощной ИИ-системы вне облачных сервисов.

score 40r/LocalLLaMA