Высокая скорость инференса Qwen-3.8 Flash-Next на двух процессорах AMD Ryzen 9 7900 с использованием движка Radiance

Пользователь протестировал производительность квантованной языковой модели Qwen-3.8 Flash-Next (квантование Q4) с помощью оптимизированного движка инференса Radiance от Deadcode. Тестирование проводилось на конфигурации из двух процессоров AMD Ryzen 9 7900 и 64 ГБ оперативной памяти DDR5, показав результаты 176 токенов в секунду на декодирование и 6450 токенов в секунду на префилл.