Память LLM: 5 подходов к обработке новой информации

Статья рассматривает пять стратегий работы языковых моделей с историей контекста: хранение явной истории (RAG, KV-кэши), сжатие состояния (Mamba, RetNet), коррекция через гейты, обучение во время инференса (TTT) и распределенное обновление параметров. Обсуждается компромисс между сохранением старых и новых данных, а также проблемы разрешения конфликтов информации при чтении.