Reddit
Google выпустила ML Drift: ускоренный на GPU движок для вывода моделей на устройствах
Команда Google AI Edge открыла исходный код ML Drift — высокопроизводительного кроссплатформенного вычислительного движка на базе GPU для выполнения ИИ-инференса на устройствах. Библиотека абстрагирует сложности низкоуровневых API (OpenGL ES, OpenCL, Metal, WebGPU) и служит ядром ускорения в LiteRT, позволяя создавать интерактивные ML-приложения с генеративным ИИ.
score 70r/LocalLLaMA