Сборка сервера на 128 ГБ VRAM за $10.7k: 4x R9700 и б/у EPYC для локального ИИ

Автор делится опытом сборки трех серверов для запуска локальных LLM, потратив около $10.7k на каждый. В конфигурации использованы четыре видеокарты AMD Radeon AI PRO R9700 (128 ГБ общей видеопамяти) и б/у процессоры AMD EPYC. Система применяется для бизнес-задач: верификации фактов и обработки данных, при этом лучшую производительность показал GLM, а оптимальное соотношение цены и качества обеспечила Qwen.