Назад к дайджесту
Reddit

Сравнение движков Strata и Infernix для Qwen Flash Next на RTX 5090: скорость и контекст 512k

Автор провел детальное сравнение инференс-движков Strata и Infernix на модели Qwen3.8-Flash-Next с контекстным окном до 512k токенов. Тестирование на RTX 5090 показало, что Infernix обеспечивает на 9-23% более высокую скорость декодирования при сохранении сопоставимого качества генерации. Оба движка успешно работают на Windows, поддерживая длинный контекст и обработку изображений.

score 40r/LocalLLaMA