[发明专利]一种面向向量处理器的池化向量化实现方法

说明书

本发明公开了一种面向向量处理器的池化向量化实现方法，包括如下步骤：根据AM空间参数、池化窗口预设参数，获取输入分块特征图每次传入AM空间的传输分块参数；基于DMA操作将分块特征图子块加载至所述AM空间；根据预设规则将单个所述分块特征图子块进行分区；根据预设顺序依次对分块特征图子块的每个区域进行池化处理；基于DMA操作将处理后获得的输出特征图子块从所述AM空间中导出至存储器中；重复上述步骤直至获取所有分块特征图子块的池化结果。该方法逻辑清晰，安全、有效、可靠且操作简便，既能支持非方形特征图、非方形移动步长、非方形池化窗口，又能支持特征图填充，无需对特征图重排，提高池化处理效率。

技术领域

本发明涉及到深度学习、卷积神经网络领域技术领域，特别是涉及一种面向向量处理器的池化向量化实现方法。

背景技术

卷积神经网络是当前深度学习模型中应用最广泛的一种神经网络模型，其在如图像分类等领域中特定任务上的性能已经超越了人类。卷积神经网络模型一般由卷积层、激活层、池化层以及全连接层等构成。

池化层位于卷积层之后，用于对卷积层提取到的特征进行聚合统计。卷积神经网络中，利用卷积操作对输入图像进行特征提取之后，将会产生多个特征图，利用所有的特征则计算量将会过于巨大，并且还可能会产生过拟合的问题，对不同位置的局部特征进行聚合统计可以有效解决这个问题。通常有两种方法进行聚合，分别是对特征图上不同位置的局部特征取最大值或平均值，即最大池化(Max-pooling)或平均值池化(Average-pooling)。相比之前提取到的特征图，通过池化之后的数据不仅具有更低维度，而且计算量显著减少，同时还避免了一定程度的过拟合改善了分类效果。总的来说，池化层具有降信息冗余、减少计算量以及防止过拟合等作用，是卷积神经网络的重要组成。

向量处理器是一种新型的体系结构，如图4所示，包含进行标量运算的标量处理单元(SPU)和进行向量运算的向量处理单元(VPU)，以及负责数据传输的直接存储器访问(Direct Memory Access，DMA)部件等。SPU由标量处理部件SPE和标量存储器SM构成。VPU由M个向量处理部件VPE和阵列存储器AM构成，M个向量处理部件VPE以单指令多数据(SIMD)的方式协作运行，支持指定VPE部件的关闭与开启，但不支持多个VPE之间的数据交互。DMA部件负责SM与DDR、AM与DDR之间的数据传输。

目前，专利《CN 108205703 A-多输入多输出矩阵平均值池化向量化实现方法》中提到的方法存在以下问题：(1)将输入特征图导入向量处理器核AM空间之前，会对输入特征图进行重排，见第2页S2-S3，极大地影响了处理效率；(2)如第二页第4、6、7页显示，分别要求特征图的高度和宽度相等，池化的水平移动步长和垂直移动步长相同、池化窗口高度和宽度相等，不支持不相等或者不相同的情况，即不支持非方阵的情况；(3)在卷积神经网络中，常通过对特征图进行填充(Padding)来保持特征图边界上的有效信息，目前该文献不支持填充(Padding)的情况。

因此，提供一种支持特征图填充、无需对特征图重排，可以支持非方形特征图、非方形移动步长、非方形池化窗口的面向向量处理器的池化向量化实现方法是本领域技术人员亟待解决的问题。

发明内容

本发明的目的在于提供一种面向向量处理器的池化向量化实现方法，该方法逻辑清晰，安全、有效、可靠且操作简便，既能支持非方形特征图、非方形移动步长、非方形池化窗口，又能支持特征图填充，无需对特征图重排，提高池化处理效率。

基于以上目的，本发明提供的技术方案如下：

一种面向向量处理器的池化向量化实现方法，包括如下步骤：

S1.根据AM空间参数、池化窗口预设参数，获取输入分块特征图每次传入AM空间的传输分块参数；

S2.基于DMA操作将分块特征图子块加载至所述AM空间；

S3.根据预设规则将单个所述分块特征图子块进行分区；