Reddit
llama.cpp добавила поддержку модели Kolibri-1 от Aleph Alpha
Проект llama.cpp интегрировал поддержку модели Kolibri-1 от Aleph Alpha, которая использует архитектуру Mixture-of-Experts (MoE) с 78 миллиардами параметров и 3.4 миллиардами активных параметров на токен. Модель оптимизирована для работы с длинным контекстом, поддерживает режимы рассуждений и вызова инструментов, а также обучена на двуязычном корпусе на английском и немецком языках.
score 55r/LocalLLaMA