Reddit
Идеи по сборке сервера на 4x RX7900 XT и 1x RTX 3060 (92 ГБ VRAM) для ИИ
Пользователь планирует собрать бюджетный сервер для инференса LLM (GLM 5.3 Flash, Qwen 3.8) с целью достижения скорости 30 тыс. токенов в секунду. Предлагается конфигурация из четырех видеокарт AMD Radeon RX 7900 XT (по 20 ГБ) и одной NVIDIA RTX 3060 (12 ГБ), суммарно 92 ГБ видеопамяти, на базе доступного б/у оборудования из-за отсутствия серверных решений в регионе.
score 40r/LocalLLaMA