Reddit
llama.cpp: добавлена поддержка моделей K2 Horizon и архитектуры MoVA
В проект llama.cpp включена поддержка плотных моделей семейства K2 Horizon и мультимодальной архитектуры MoVA. Обновление позволяет запускать на локальных устройствах модели различных размеров от 0.9B до 36B параметров, доступные в формате GGUF.
score 55r/LocalLLaMA