GitHub
PSSA: нетрансформерная языковая модель на Rust с рекуррентными состояниями и эпизодической памятью
Разработчики представили PSSA — языковую модель, написанную с нуля на Rust, которая не использует архитектуру трансформеров. В основе лежит рекуррентный слой пространственных состояний, дополненный эпизодической памятью и способностью к самоизменению весов. Проект включает поддержку обучения на CUDA и встроенную панель мониторинга в терминале.
10310 forksRustscore 79.3
machine-learninglanguage-modelcudastate-space-modelrusttui