Выход модели Flint 40B (архитектура MoE A2.5B) на Hugging Face

Пользователь Reddit поделился ссылкой на репозиторий RecursiveSI/flint, представляющий большую языковую модель с 40 миллиардами параметров. Модель использует архитектуру смешанной экспертности (MoE), где активными являются только 2.5 миллиарда параметров, что обеспечивает эффективность при высоких вычислительных мощностях.