Назад к дайджесту
GitHub

PSSA: нетрансформерная языковая модель на Rust с рекуррентными состояниями и эпизодической памятью

Разработчики представили PSSA — языковую модель, написанную с нуля на Rust, которая не использует архитектуру трансформеров. В основе лежит рекуррентный слой пространственных состояний, дополненный эпизодической памятью и способностью к самоизменению весов. Проект включает поддержку обучения на CUDA и встроенную панель мониторинга в терминале.

10310 forksRustscore 79.3
machine-learninglanguage-modelcudastate-space-modelrusttui