Воспроизведение эффекта grokking и проверка сохранённых моделей

Авторы статьи воспроизвели феномен grokking на трёх различных случайных семенах, продемонстрировав, что нейросеть быстро запоминает обучающие данные, но начинает обобщать закономерности значительно позже. В материале представлены результаты эксперимента, определены границы проверки гипотез и опубликованы открытые артефакты исследования.