REMORY: Сжатие контекста через остаточную нейросетевую память

Исследователи представили метод REMORY, использующий сеть нейронной памяти для генерации мягких токенов, которые дополняют текстовое резюме истории агента. Этот подход позволяет замороженной LLM эффективно аппроксимировать ответы на основе полного контекста, занимая лишь 5,2% входных позиций. Метод демонстрирует улучшение атрибуции источников и снижение ошибок инструментов на бенчмарках для долгосрочных агентов.