Reddit
Поддержка модели Mellum 2.1 в llama.cpp
В репозиторий llama.cpp добавлена поддержка модели Mellum 2.1 — архитектуры MoE на 12B параметров с 2.5B активных. Модель обучена с упором на reinforcement learning для улучшения навыков в программировании, математике и работе с реальными средами.
score 55r/LocalLLaMA