QEngine 1.3.1: ускорение декодирования Qwen3.8-Flash-Next на RTX 5090 в 1.5–1.9 раза

Автор тестирует движок QEngine версии 1.3.1 для модели Qwen3.8-Flash-Next на конфигурации из двух видеокарт RTX 5090, достигая скорости декодирования до 504 токенов в секунду. Сравнительный анализ показывает, что QEngine превосходит аналоги, такие как Strata и vLLM, по скорости генерации текста, хотя и уступает в скорости префилла при очень длинных контекстах.