Назад к дайджесту
Reddit

Пользователь запустил Kimi K3 на 80 видеокартах RTX 5090 через сеть 25GbE

Энтузиаст успешно развернул крупную языковую модель Kimi K3 на кластере из 80 графических ускорителей RTX 5090, используя высокоскоростную сеть 25GbE для межкарточного взаимодействия. Это демонстрирует практические возможности масштабирования LLM на потребительском железе через распределённую архитектуру.

score 40r/LocalLLaMA