Reddit
Запуск 13-миллионной модели распознавания речи Conformer на микроконтроллере
Автор успешно развернул 13-миллионную модель распознавания речи Conformer на микроконтроллере ESP32-S3. Благодаря дистилляции и квантованию модель поместилась в 14 МБ флеш-памяти, используя аппаратное ускорение 8-битной арифметики. Проект демонстрирует практические возможности Edge AI, несмотря на 3% потерю точности.
score 40r/LocalLLaMA