Назад к дайджесту
Reddit

Запуск модели Liquid AI Omni-D1 (600M) в браузере через WebGPU

Разработчик успешно портировал модель принятия решений Omni-D1 от Liquid AI для работы в браузере с использованием библиотеки WebGPU Runntime. Демонстрация показала модерацию комментариев в реальном времени с задержкой около 180 мс на комментарий, используя чистый TypeScript без WASM.

score 40r/LocalLLaMA