Независимый от вендора ML-инференс на edge-устройствах в продакшене

Разработчики инструмента для видеомонтажа PostSlate внедрили универсальный ML-инференс на edge-устройствах, используя ncnn с бэкендом Vulkan вместо CUDA. Это обеспечило кратно ускоренную работу моделей ArcFace и SCRFD на любом оборудовании (NVIDIA, AMD, Intel, Apple Silicon) без необходимости установки дополнительных драйверов. Подход позволяет избежать вендорной привязки и упрощает развертывание на массовом рынке.