Reddit
Собрал «бесконечные камни»: мощнейший AI-кластер на Blackwell
Пользователь делится деталями сборки гетерогенного кластера для ИИ: 2.3 ТБ ОЗУ, 400+ vCores и NVIDIA Blackwell. Планируется использование RDMA для оптимизации LLM-инференса (prefill/decode), требуется помощь с драйвером Tinygrad.
score 100r/LocalLLaMA