开发者手机目标识别模型的部署

简介

本文讲述开发者手机上目标识别应用的模型部署的步骤，在模型部署前需要构建好能够对100个分类目标识别的模型，并且量化为uint8的数据类型，详情参考构建开发者手机目标识别应用的模型

模型部署

1、量化后的uint8模型需要转换为芯片支持的离线模型格式。开发者手机使用的是展锐7885 NPU芯片，因此需要转换为展锐unm格式的离线模型。具体转换命令见模型剪除与量化 第3节。

2、因为要使用MindSpore Lite推理框架来进行AI应用的开发，模型文件就须是MindSpore支持的ms文件格式。所以要使用MindSpore的工具converter_lite将展锐num格式的离线模型封装为mindspore格式的模型文件.ms。

./converter_lite --fmk=THIRDPARTY --modelFile=./yolov5s_c100_e100_cut_sim_quant_uint8.unm --configFile=./uint8_config.txt --outputFile=./output_model_NCHW

目标识别模型转换的uint8_config.txt文件的内容如下：

[third_party_model]
input_dtypes=uint8
input_shapes=1,3,640,640
input_formats=NCHW
output_dtypes=uint8;uint8;uint8
output_shapes=1,255,80,80;1,255,40,40;1,255,20,20
output_formats=NCHW;NCHW;NCHW

3、将最后生成的ms模型文件加入到应用的rawfile目录下，目标识别的模型文件为unm_nchw_uint8.ms。在目标识别应用的初始化中读取模型文件，然后完成模型的创建和编译。

 

4、目标识别的AI应用通过编译好的模型就能够实现对图片中的物体进行识别了。