Reddit
Сборка кластера из 16x GB10 (DGX Spark)
Пользователь делится опытом настройки инфраструктуры для локального запуска передовых открытых моделей, таких как Deepseek v4, Kimi K3 и GLM 5.5. Конфигурация объединяет 16 ускорителей через высокоскоростную сеть для поддержки инференса моделей с параметрами более 2 триллионов. Это пример развертывания мощной ИИ-системы вне облачных сервисов.
score 40r/LocalLLaMA