[发明专利]多输入多输出矩阵平均值池化向量化实现方法

说明书

一种多输入多输出矩阵平均值池化的向量化实现方法，其步骤为：S1：根据向量处理器中向量处理单元VPE的数量M等参数确定向量处理器单核同时计算的输入特征图数量；S2：将输入特征图按照第三维进行排序；S3：完成所有输入特征图的排序；S4：将排序好的输入特征图由DMA传输至向量处理器核内AM中；S5：向量加载并依次与接下来的数据行进行累加，得出输入特征图对应位置池化窗口的取平均值池化结果；S6：根据水平移动步长，顺移至下一个池化窗口；S7：重复步骤S5‑S6；S8：重复步骤S6‑S7N/M次，最终完成N张输入特征图的平均值池化操作。本发明具有实现简单、操作方便、可提高多核向量处理器并行性、能提高处理器运算效率等优点。

技术领域

本发明主要涉及到深度学习、卷积神经网络领域，特指一种多输入多输出矩阵平均值池化向量化实现方法。

背景技术

卷积神经网络是当前深度学习算法模型中应用的最多的一种神经网络模型，同时也是识别率最好的一种模型。卷积神经网络模型中一般包括矩阵卷积、激活函数、最大值池化或平均值池化、局部线性归一化操作等。

池化层位于卷积层之后，一般通过卷积层获得特征之后，希望利用这些特征取做分类，理论上，可以使用所有提取得到的特征取训练分类器，但这样会面临来自巨大计算量上的挑战。假设有一个96×96像素的输入图像，已经学习得到400个定义在8×8输入上的特征，每个特征和输入图像卷积都会得到一个(96-8+1)×(96-8+1)＝7921维的输入卷积特征。由于有400个特征，所以每个样例都会得到一个89×89×400＝3168400维的卷积特征向量，而学习这么大规模的分类器容易出现过拟合。

而池化操作是对卷积特征向量进行降维的一种重要方法，可以通过计算图像一个区域上的某个特定特征的平均值(或最大值)，这些概要统计特征不仅具有很低的维度，同时还会改善结果，不易出现过拟合。

此外池化操作还具有平移不变形，即图像经过一个小的平移之后，依然会产生相同的池化特征，而这种特性在物体检测、图像识别、语音识别等领域具有重要的应用前景，例如，当处理一个MNIST数据集数字的时候，把它向左侧或右侧平移，那么不论最终的位置在哪里，都会期望你的分类器仍然能够精确地将其分类为相同的数字。

由于卷积神经网络中，具有多个输入特征图和多个输出特征图，相应的就会有多个进行平均值池化的输入特征图和多个输出特征图，而如何最大化平均值池化的计算过程，也是一个重要的研究内容。

如图1所示，向量处理器是一种新型的体系结构，包括进行标量运算的标量处理单元(SPU)和进行向量运算的向量处理单元(VPU)，通过合理的任务划分可以充分发挥向量处理器的计算优势。

发明内容

本发明要解决的技术问题就在于：针对现有技术存在的技术问题，本发明提供一种实现简单、操作方便、可提高多核向量处理器并行性、能提高处理器运算效率的多输入多输出矩阵平均值池化向量化实现方法。

为解决上述技术问题，本发明采用以下技术方案：

一种多输入多输出矩阵平均值池化的向量化实现方法，其步骤为：

S1：根据向量处理器中向量处理单元VPE的数量M，输入特征图的数量N，尺寸为n×n，平均值池化的移动步长为s，池化窗口k，确定向量处理器单核同时计算的输入特征图数量；

S2：将M个输入特征图按照第三维进行排序；

S3：步骤S2进行N/M次，直至完成所有N张输入特征图的排序；

S4：将步骤S3中排序好的输入特征图由DMA传输至向量处理器核内AM中；

S5：向量加载AM中的第1行，依次与接下来的数据行进行累加，共计累加k×k次，并将该累加结果与1/k2相乘，同时得出M个输入特征图对应位置池化窗口为k×k的取平均值池化结果；