Локальный AI-сервер на базе четырёх GPU NVIDIA CMP 170HX в сарае

Энтузиаст собрал мощную локальную систему для запуска LLM, объединив четыре видеокарты NVIDIA CMP 170HX с общим 256 ГБ VRAM и процессор AMD Threadripper. На этой конфигурации тестируются модели Qwen и GLM, а для охлаждения и снижения шума оборудование было перенесено в отдельное помещение с кондиционером.