Reddit
Одна система с двумя видеокартами или две отдельные?
Пользователь обсуждает оптимальную конфигурацию железа для локального запуска больших языковых моделей. Сравнивается вариант использования двух GPU в одном ПК для объединения VRAM против двух отдельных систем. Упоминаются модели Qwen и Gemma, квантование и влияние на скорость генерации.
score 40r/LocalLLaMA