Назад к дайджесту
Reddit

llama.cpp: добавлена поддержка моделей K2 Horizon и архитектуры MoVA

В проект llama.cpp включена поддержка плотных моделей семейства K2 Horizon и мультимодальной архитектуры MoVA. Обновление позволяет запускать на локальных устройствах модели различных размеров от 0.9B до 36B параметров, доступные в формате GGUF.

score 55r/LocalLLaMA