Назад к дайджесту
Reddit

llama.cpp: добавлена поддержка Nemotron 3.5 Transcribe

В проект llama.cpp добавлена поддержка модели Nemotron 3.5 Transcribe от NVIDIA. Это открытая офлайн-модель для транскрипции аудио на 40 языках, использующая гибридную архитектуру mixture-of-experts с активацией около 4,3 млрд параметров. Модель поддерживает контекст до 65 536 токенов и доступна в форматах BF16, FP8 и NVFP4.

score 55r/LocalLLaMA