Microsoft VibeVoice-ASR-BitNet: эффективное распознавание речи на CPU

Microsoft выпустила сжатую версию модели распознавания речи VibeVoice-ASR, оптимизированную для работы на обычных процессорах без GPU. Благодаря квантованию BitNet размер модели уменьшен с 4.62 ГБ до 1.58 ГБ, а скорость инференса превышает Whisper.cpp в 1.6–2.3 раза. Решение обеспечивает реальное время работы (RTF < 1) даже на 3 потоках CPU.