Strata - Qwen 3.8 Flash Next: ускорение декодирования

Автор делится результатами тестирования оптимизации скорости генерации текста для модели Qwen 3.8 Flash Next в локальном окружении. Увеличение параметра --adapt-every с 1 до 6 позволило добиться прироста скорости декодирования от 9% до 55% в зависимости от типа запроса и квантования модели.