Назад к дайджесту
Reddit

Запустил мультимодальную NVIDIA Nemotron Omni на Mac: портировал vision и audio tower на MLX

Разработчик реализовал на фреймворке MLX модули зрения и аудио для мультимодальной модели NVIDIA Nemotron Omni, которые не поддерживались стандартными инструментами. Все 23 теста совпали с эталонной PyTorch-реализацией NVIDIA, модель работает на Apple Silicon с производительностью до 152 токенов/сек и полностью открыта под лицензией MIT.

score 55r/LocalLLaMA