Назад к дайджесту
Reddit

Собрал «бесконечные камни»: мощнейший AI-кластер на Blackwell

Пользователь делится деталями сборки гетерогенного кластера для ИИ: 2.3 ТБ ОЗУ, 400+ vCores и NVIDIA Blackwell. Планируется использование RDMA для оптимизации LLM-инференса (prefill/decode), требуется помощь с драйвером Tinygrad.

score 100r/LocalLLaMA