Reddit
Оптимизация Strata: ускорение Qwen3.8-Flash на RTX 4090 с помощью тонкой настройки конфигурации
Автор делится результатами тюнинга движка Strata для модели Qwen3.8-Flash на Windows, достигнув скорости декодирования 142 токена/с (+45%) и пропускной способности префилла 2000 PP. Ключевыми факторами успеха стали флаги --adapt-async, --kv-resident и STRATA_ADAPT_LAG, а также использование кастомного расширения для сохранения состояния KV при работе с суб-агентами.
score 40r/LocalLLaMA