Назад к дайджесту
Reddit

Запустил Qwen3-VL-Embedding-2B с rkllm на Orange Pi 5b

Автор успешно развернул мультимодальную модель Qwen3-VL-Embedding-2B на одноплатном компьютере Orange Pi 5b с помощью rkllm. Демонстрация показывает поиск схожести между текстовыми фразами и изображением с веб-камеры в реальном времени. Решение актуально для разработчиков, интересующихся внедрением нейросетей на edge-устройствах с NPU.

score 15r/LocalLLaMA