Reddit
NVIDIA представила сжатую версию 30B-модели для распознавания речи без переобучения
Компания NVIDIA выпустила оптимизированную версию большой языковой модели объемом 30 миллиардов параметров для задач распознавания речи. Модель была уменьшена с 67.5 ГБ до 10 ГБ с помощью прунинга без необходимости повторного обучения, сохранив при этом низкую ошибку транскрипции на уровне 5.16% WER.
score 55r/LocalLLaMA