实现英码科技边缘计算盒子IVP07A环境部署-EMA英码科技-广州英码信息科技有限公司

本文旨在为已购买IVP07A盒子的用户提供设备端的部署指南，使用此指南的前提：在开发系统上已安装搭建好相应的框架；已完成模型的处理，包括：模型量化、模型转换等；且已完成代码工程的编译，并通过相应框架生成设备端适配的可执行程序，具体的操作流程请参考相应的《开发环境搭建指南》完成系统环境搭建。

开发环境：

➢开发系统：Ubuntu18.04 64位 X86操作系统

➢内存：大于4G

➢储存空间：大于10G

➢系统语言：en_US.UTF-8（MindStudio）

➢编译器：g++或aarch64-linux-gnu-g++

➢python版本：python3.7.5

➢智能工作站型号：英码科技IVP07A

声明—IVP07A内包含SVP_NNN一个算力核，适配SVP架构。

准备工作就绪后，环境部署流程正式开始！

环境部署步骤

步骤1：安装CH340驱动；

步骤2：设备插入网线、电源线、且通过Type-C线连接电脑；

边缘计算盒子IVP07A

步骤3：连接后，要在设备管理器查看是否连接成功，并记录端口号；

步骤4：通过串口工具连接设备端，可使用MobaXterm、Xshell等工具，选择端口号，bps为115200；

步骤5：连接设备后，执行命令加载设备端驱动及ko文件，./insmod.sh以及./init.sh（如设备端版本为Ubuntu20.04则上电时已自动加载驱动和ko文件）；

步骤6：根据连接的网口配置ip地址以及网关地址

ifconfig eth0 xxx.xxx.xxx.xxx netmask 255.255.255.0 up

// ip地址，请自行填入

执行route命令，进行网关配置；

route add default gw xxx.xxx.xxx.xxx // 网关地址，请自行填入

配置完毕后，需要ping通本机的ip；

步骤7：yolov3网络模型需要开发者自行准备，本样例的预测框准确率与网络模型的迭代次数相关，因此开发者需使用自己训练后的yolov3模型，这里仅供示例。把yolov3模型及权重文件放入相应路径下；

步骤8：通过MindStudio工具启动ATC功能进行模型转换，把yolov3模型文件转换为SoC设备端识别的离线模型（.om模型）。在MindStudio转换界面配置相应的参数，包括Type和Images File等，且需要设置profiling工具启动的参数；

步骤9：转换成功后，会在指定目录下生成离线模型以及精度比对文件、转换数据文件等。把离线模型放入工程目录下。执行编译命令，生成可执行程序；

步骤10：需要在虚拟机以及设备上安装nfs，并且把编译后的工程文件及所需的动态库放在nfs文件夹下，之后在设备端通过nfs挂载到虚拟机的文件夹；

参考命令：

mount -t nfs ip地址:/xxx/xxx/xxx /mnt -o nolock

ip地址为您虚拟机的IP地址

/xxx/xxx/xxx为您虚拟机内nfs文件夹挂载路径

步骤11：声明SDK包内动态库；

参考命令：

export LD_LIBRARY_PATH=/mnt/mpp/out/lib/svp_npu

声明路径为sdk包内mpp文件夹下动态库的路径

步骤12：执行命令进行推理后会打印相关数据，并在目录下生成预测框坐标点的txt文件./main 3；

以下为输出示例：

步骤13：在工程目录下，执行命令启动生成预测框的脚本即可产生图片预测结果，下图为示例图；

参考命令：

python3.7.5 ../script/drawbox.py -i ../data/2.jpg -t yolov(1/2/3/4)_detResult.txt

步骤14：配置了profiling相关参数的代码后，模型推理完成时会在工程目录下生成一个JOB文件夹，该文件夹内记录了模型推理的性能指标；

步骤15：采集完成后需要执行脚本进行解析性能指标，需要进入到msprof下执行脚本，解析后会在JOB文件夹下生成sqlite文件夹，里面包含了各性能指标的db文件；

参考命令：

python3.7.5 msprof.py import -dir /home/hyq/rootfs/yolo/job

步骤16：得到解析坐标后，执行相应命令即可导出指标为可视化表格；

参考命令：

python3.7.5 msprof.py export summary -dir /home/hyq/rootfs/yolo/job --format csv

步骤17：以下为op_summary的表格示例，该表格内记录了每一层算子的时间、推理耗时、调用接口耗时等性能指标；

定制服务

实现英码科技边缘计算盒子IVP07A环境部署-EMA英码科技

分享至微信分享