Назад к дайджесту
Reddit

Думаю добавить RTX 2000 Ada 16GB в игровой ПК для инференса из-за ограничений по мощности, есть советы?

Пользователь с конфигурацией i9-14900F/RTX 4070 Super/32GB DDR5 и блоком питания 700W рассматривает добавление RTX 2000 Ada 16GB для запуска больших языковых моделей (например, Qwen 27B, Gemma 31B) из-за низкого TDP (75W) и совместимости с текущей архитектурой. Он спрашивает совета по поводу этого решения, альтернативных вариантов и источников покупки, особенно в преддверии Black Friday.

score 40r/LocalLLaMA