Reddit
Фреймворк Phonon стал открытым: TTS-модели на 31 и 40 млн параметров для работы на edge-устройствах
Компания Gradium выпустила в открытый доступ фреймворк Phonon и связанные с ним модели синтеза речи (TTS) объемом 31 и 40 миллионов параметров, оптимизированные для запуска непосредственно на устройствах пользователя. Инференс-стек написан преимущественно на Rust и поддерживает более десяти различных бэкендов, включая CPU, GPU и NPU.
score 55r/LocalLLaMA