Strata: ускорение декодирования LLM до 150 токенов в секунду

Пользователь протестировал технологию Strata в связке с LlamaServer и Qwen 3.8 Flash Next, достигнув скорости декодирования 150 токенов в секунду, что значительно превосходит показатели стандартного LlamaCPP. В сравнении с другими квантованными моделями, такими как DeepSeek v4.1, Strata демонстрирует существенное преимущество в производительности на оборудовании с несколькими GPU.