Mirendil представила Fern v0.1: первую модель с контекстным окном в 10 миллионов токенов

Компания Mirendil анонсировала загрузку первой версии своей языковой модели Fern, ключевой особенностью которой является поддержка контекстного окна объемом 10 миллионов токенов. Модель разработана одним исследователем с бюджетом менее 10 миллионов долларов, а количество параметров оценивается в диапазоне от 0,1 до 0,5 триллиона.