Qwen3.8-27B: Трансплантация KV-кэша для повышения качества генерации

Автор исследует метод динамического переключения между квантованиями одной и той же модели (Qwen3.8-27B) путем прямой передачи KV-кэша от высокоточной версии к более сжатой. Эксперименты показывают, что такой подход позволяет получить более качественные результаты на сложных задачах, чем использование низкобитного квантования с самого начала, эффективно экономя ресурсы GPU без потери качества.