Мультимодальная модель MiniCPM-V 4.7 объемом 35B работает на смартфоне с 3 ГБ памяти

Команда OpenBMB продемонстрировала работу модели MiniCPM-V 4.7 архитектуры MoE на мобильных устройствах. Ключевым достижением стала оптимизация вывода через механизм LES (Lookahead Expert Scheduling), позволяющая эффективно использовать ресурсы без загрузки в облако.