开发者手机 AI能力构建

---

本文以开发者手机AI特性为例，讲述Openharmony上AI应用如何构建。

一、Openharmony AI架构

 

OpenHarmony AI子系统的部件包括：

• MindSpore Lite AI推理框架，为AI应用开发提供统一的AI推理接口，可以完成在手机等端侧设备中的模型推理过程；
• Neural Network Runtime：神经网络运行时，作为中间桥梁连通上层AI推理框架和底层AI芯片。面向AI芯片提供统一的接口，使AI芯片驱动能够接入OpenHarmony系统。

二、开发者手机 AI能力构建

开发者手机AI特性主要完成以下三项工作，在开发者手机上从上到下打通了Openharmony的AI子系统。

• 南向NPU芯片的适配

• 构建目标识别的模型

• 实现目标识别的AI应用

1、NNRt HDI接口适配，使NPU芯片接入Openharmony。

NNRt开放了标准统一的南向HDI接口，使第三方芯片设备可以通过NNRt HDI接口接入Openharmony。

 

NPU芯片适配就是增加NNRt host进程，实现NNRt设备服务进程。在HDI的接口中对接芯片厂商提供的闭源库，完成HDI接口的适配。

具体可参考Neural Network Runtime设备接入指导

2、目标识别模型的构建。

• 以yolov5模型为基础，构建能够识别100种目标物体的模型；

• 为了能够在开发者手机这种端侧设备上快速推理，需要对模型进行量化和剪除；

• 模型转换为展锐的离线模型文件；

• 展锐离线模型转换为MindSpore封装的模型文件；

  具体模型的构建请参考构建开发者手机目标识别应用的模型

3、目标识别AI应用的实现。

应用的native层通过调用MindSpore Lite接口实现模型的加载、构建、编译以及推理。

目标识别应用的详细情况请参考目标识别demo

MindSpore Lite的接口请参考MindSpore Lite