Назад к дайджесту
Reddit

Запуск DeepSeek V4.1 Flash на RTX 5090: 10 токенов в секунду

Пользователь протестировал работу модели DeepSeek V4.1 Flash на локальной системе с видеокартой RTX 5090 и 64 ГБ оперативной памяти DDR5. Скорость генерации составила 10 токенов в секунду, что сделало использование API экономически более выгодным, чем оплата электроэнергии для локального инференса.

score 40r/LocalLLaMA