Назад к дайджесту
Reddit

Случайное открытие или известный метод? Эксперименты с компиляцией разреженных энграмм памяти

Автор исследует возможность переноса обученной внешней памяти (энграмм) между моделями разного размера с помощью небольших адаптеров. В ходе тестов открыто, что прямая компиляция структурированных фактов в разреженную память позволяет нейросетям эффективно её извлекать, что подтверждается синтетическими экспериментами с высокой точностью восстановления.

score 40r/LocalLLaMA