Интересная статья о непрерывном обучении: «LLM с бесконечным числом параметров: генерация и адаптация весов на основе живых данных»

В статье предлагается метод непрерывного обучения LLM, который генерирует динамический низкоранговый адаптер поверх существующих весов, не изменяя сами веса. Адаптер постоянно обновляется, поглощая информацию из контекста, и может быть удалён в любой момент, возвращая модель к базовому поведению. Это позволяет избежать катастрофического забывания и корректировать ошибки модели без переобучения.