Назад к дайджесту
Reddit

Одна система с двумя видеокартами или две отдельные?

Пользователь обсуждает оптимальную конфигурацию железа для локального запуска больших языковых моделей. Сравнивается вариант использования двух GPU в одном ПК для объединения VRAM против двух отдельных систем. Упоминаются модели Qwen и Gemma, квантование и влияние на скорость генерации.

score 40r/LocalLLaMA