[发明专利]一种基于Vitis栈的目标检测全流程加速方法及系统

权利要求书

1.一种基于Vitis栈的目标检测全流程加速方法，其特征在于，所述方法包括以下步骤：

S100，将Yolov3模型转换为量化模型；

S200，将输入数据进行存储处理；

S300，进行DPU部署获得硬件平台；

S400，在硬件平台上通过量化模型对数据后处理。

2.根据权利要求1所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S100中，将Yolov3模型转换为量化模型的方法包括以下步骤：

S101，将Yolov3模型的HDF5文件进行转换为TensorFlow的检查点checkpiont；

S102，将TensorFlow checkpoint转换为frozen graph文件，从而将所有变量转换为常量，并且将与训练有关的图结点删掉；其中，训练有关的图结点包括优化核损失函数；

S103，通过使用vitis AI工具以及量化指令vai_q_tensorflow quantize命令将Frozen Graph模型进行量化得到量化部署模型；

S104，通过vitis AI工具中的编译器对量化模型进行编译生成可以通过DPU指令集的.elf文件作为量化模型。

3.根据权利要求1所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S200中，将输入数据进行存储处理的方法包括四部分：存储变换、数据读取、对数据类型作定点优化处理和指令优化。

4.根据权利要求3所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S200中，存储变换的方法为：数据在zynq ultrascale mpsoc系统的process system和process logic部分需要进行数据传输，将ps端的数据进行分区，分为推理图片/视频存储区和权重数据存储区，初始数据作矩阵变化使得其对应不同层之间的卷积运算。

5.根据权利要求3所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S200中，数据读取的方法为：对于在ps端存储后的数据，在pl端全局存储中分配一块内存专门用于存储从ps端读取的数据，读取是采用MFCA算法根据输出矩阵的宽度和卷积核的大小对输入矩阵进行分块，并将两个数据块转换为对应的矩阵，然后继续对两个矩阵进行稀疏矩阵乘法，最后将得到的结果按序排列，得到卷积输出结果，使用MFCA算法中的矩阵分块和矩阵转换将数据存储到pl端的全局存储中。

6.根据权利要求3所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S200中，指令优化的方法为：对于函数，通过指定directive指令来将作dataflow处理加快函数执行，对于循环，使用pipeline和循环展开指令在循环这一层级进行加速，对于数组通过数据拆分来加快数据处理。

7.根据权利要求6所述的一种基于Vitis栈的目标检测全流程加速方法，其特征在于，在S300中，进行DPU部署获得硬件平台的方法为：

通过vivado调用zynq处理器ip以及dpu ip两者通过AXI互联矩阵以及AXI总线对两者进行数据传输；

通过修改configuration文件来配置DPU，具体为：配置DPU使用数量为2，RAM使用率为高，采用通道增强、深度卷积、DSP48使用率为高以及BRAM和Ultra RAM的使用比例，生成XSA文件；

通过PetaLinux工具来创建Linux映像和具有XRT支持的sysroot，使得系统可以运行嵌入式软件系统；

通过将XRT、简单系统管理以及Vitis-AI依赖文件和GUI支持进行封装生成Petalinux镜像；

最后，通过vitis将XSA文件与Petalinux镜像一起打包生成定制化的基于DPU加速的硬件平台。