Reddit
Сборка сервера на 4x AMD Radeon R9700 для стартапа из 10 человек
Описан опыт развертывания высокопроизводительной AI-инфраструктуры на базе четырех видеокарт AMD Radeon R9700 AI Pro с общим объемом VRAM 128 ГБ. Система успешно обрабатывает 16 одновременных сессий для модели Qwen 3.8 Next Flash 27B, демонстрируя стабильную производительность префилла и декодирования при работе с контекстом до 128k токенов.
score 40r/LocalLLaMA