Запуск LLM на встроенном NPU мини-ПК с Intel Core Ultra 5 226V

Автор демонстрирует настройку среды OpenVINO для локального запуска языковой модели Qwen3-8B на встроенном нейронном процессоре процессора Intel Core Ultra 5 226V. Проводится сравнение производительности и энергопотребления с дискретной видеокартой RTX 5070 Ti, а также проверяется работа модели в задачах обработки изображений и генерации контента.