Reddit
Запуск DeepSeek-V4-Flash на 4 GPU AMD Radeon AI PRO R9700: обход ограничения движка Affinity
Автор успешно запустил модель DeepSeek-V4-Flash с использованием движка Affinity на четырех реальных GPU AMD Radeon AI PRO R9700, опровергнув утверждение разработчика о невозможности работы с более чем двумя картами. На конфигурации из четырех видеокарт скорость генерации достигла 79 токенов в секунду при полном размещении всех экспертов в VRAM, что исключает необходимость потоковой передачи с хоста.
score 40r/LocalLLaMA