Назад к дайджесту
Reddit

llama.cpp: добавлена поддержка модели Nemotron Nano 3 Omni

В репозиторий популярной библиотеки llama.cpp добавлена поддержка конвертации новой мультимодальной модели NVIDIA Nemotron 3 Nano Omni. Эта модель объединяет понимание видео, аудио, изображений и текста для корпоративных задач. Обновление позволяет запускать модель локально с использованием квантования и ускорения.

score 26r/LocalLLaMA