Reddit
Дистилляция Whisper и BERT из 2-модели для работы в браузере с субтитрированием видео
Разработчик создал инструмент для автоматического создания субтитров, работающий полностью в браузере. В основе решения лежат дистиллированные модели Whisper Base и мини-версия BERT (11 млн параметров), запущенные через transformers.js с использованием WebGPU и WASM.
score 40r/LocalLLaMA