Fractale-350M-base: память как обученное поведение вместо длинного контекста — полностью открытый исследовательский релиз

Представлен Fractale-350M-base — полностью открытая модель, исследующая механизмы памяти вместо стандартного длинного контекста. Архитектура использует банк из 8 векторов, которые записываются как быстрые веса и влияют на прямой проход через гиперсети. Тесты показывают, что модель становится зависимой от этой памяти в процессе обучения, значительно улучшая предсказание на новых данных.