Reddit
Случайное открытие или известный метод? Эксперименты с компиляцией разреженных энграмм памяти
Автор исследует возможность переноса обученной внешней памяти (энграмм) между моделями разного размера с помощью небольших адаптеров. В ходе тестов открыто, что прямая компиляция структурированных фактов в разреженную память позволяет нейросетям эффективно её извлекать, что подтверждается синтетическими экспериментами с высокой точностью восстановления.
score 40r/LocalLLaMA