Reddit
Добавлена поддержка модели MiMo v2.5 в библиотеке llama.cpp
В библиотеке llama.cpp реализована поддержка новой мультимодальной модели MiMo v2.5 от Xiaomi. Это Sparse MoE архитектура с 310 млрд параметров, контекстом до 1 млн токенов и обработкой текста, изображений, видео и аудио. Обновление позволяет запускать модель локально через популярный фреймворк для инференса.
score 32r/LocalLLaMA