Reddit
llama.cpp: добавлена поддержка Nemotron 3.5 Transcribe
В проект llama.cpp добавлена поддержка модели Nemotron 3.5 Transcribe от NVIDIA. Это открытая офлайн-модель для транскрипции аудио на 40 языках, использующая гибридную архитектуру mixture-of-experts с активацией около 4,3 млрд параметров. Модель поддерживает контекст до 65 536 токенов и доступна в форматах BF16, FP8 и NVFP4.
score 55r/LocalLLaMA