Reddit
Запустил Qwen3-VL-Embedding-2B с rkllm на Orange Pi 5b
Автор успешно развернул мультимодальную модель Qwen3-VL-Embedding-2B на одноплатном компьютере Orange Pi 5b с помощью rkllm. Демонстрация показывает поиск схожести между текстовыми фразами и изображением с веб-камеры в реальном времени. Решение актуально для разработчиков, интересующихся внедрением нейросетей на edge-устройствах с NPU.
score 15r/LocalLLaMA