Reddit
Запуск модели Liquid AI Omni-D1 (600M) в браузере через WebGPU
Разработчик успешно портировал модель принятия решений Omni-D1 от Liquid AI для работы в браузере с использованием библиотеки WebGPU Runntime. Демонстрация показала модерацию комментариев в реальном времени с задержкой около 180 мс на комментарий, используя чистый TypeScript без WASM.
score 40r/LocalLLaMA