Princeton и Polymathic AI представили FlashMap: метод спекулятивного декодирования на основе карт потока

Исследователи из Принстона и Polymathic AI разработали FlashMap — подход к спекулятивному декодированию, использующий карты потока (flow maps) для ускорения генерации текста языковыми моделями. Метод позволяет повысить эффективность вывода без значительной потери качества.