Назад к дайджесту
Reddit

Стоит ли комбинировать 3090 с 5070 и 5060?

Пользователь рассматривает добавление RTX 3090 к своей связке из 5070 Ti и двух 5060 Ti для увеличения VRAM, но сомневается из-за возможного падения производительности при смешивании архитектур Ampere и Blackwell в llama.cpp и vLLM. Он делится текущими показателями (60 ток/с декодирование, 1500 токов преамбулы) и спрашивает о практическом опыте использования разнородных карт и о том, будет ли конвейерный параллелизм быстрее.

score 40r/LocalLLaMA