Запуск DeepSeek V4.1 Flash на 4 RTX 3090 с движком Maya: скорость и сравнение

Пользователь протестировал модель DeepSeek V4.1 Flash (квантованная GGUF версия) на конфигурации из четырех видеокарт NVIDIA RTX 3090 с использованием движка Maya. Достигнутая скорость декодирования составила 30–40 токенов в секунду, что позволяет сравнивать производительность с моделями Qwen, при этом отмечается снижение склонности к зацикливанию по сравнению с предыдущими версиями.