[发明专利]一种基于向量处理器的矩阵卷积向量化实现方法

权利要求书

1.一种基于向量处理器的矩阵卷积向量化实现方法，其特征在于，该方法包括：将卷积核数据进行按行展开的重排序，并将重排后的卷积核数据放置在向量处理器的核内存储体中，各向量处理单元VPE并行进行卷积计算，每个向量处理单元VPE独立的计算单个的输出特征图，各向量处理单元VPE每次计算时，将输入数据的一个元素广播至向量处理器中各向量处理单元VPE，同时从所述核内存储体中加载指定行的多个卷积核数据并与广播的元素进行乘累加计算，其中输入数据和计算过程中的中间计算结果放置在核外DDR。

2.根据权利要求1所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，该方法的步骤为：

S1.确定每次可以同时计算的输出特征图的数量p；

S2.将输入特征图置入向量处理器的核外DDR中，将m个卷积核矩阵按行展开成列模式，得到重排后的卷积核矩阵并置入向量处理器的核内AM中，m为向量处理单元VPE的数量；

S3.每次广播核内AM的输入特征图的一个元素至各向量处理单元VPE，同时从核内AM中加载m个卷积核数据与广播的元素进行对应乘累加计算，直至完成n个输出特征图的计算，n为卷积核的数量。

3.根据权利要求2所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于：所述步骤S1中具体根据向量处理器中向量处理单元VPE的数量m、卷积核的数量n、移动步长s以及卷积核的规模k×k，确定每次可以同时计算的输出特征图的数量p。

4.根据权利要求2所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，所述步骤S2中具体将m个卷积核中各个单核按行展开成列模式，即m个k×k规模的卷积核展开成k²行、m列的矩阵，使得m个k×k的卷积核按行排成一个k²×m的卷积核矩阵。

5.根据权利要求2所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，所述步骤S3的具体步骤为：

S31.取输入特征图的一个卷积核窗口；

S32.在当前卷积核窗口内取第一个元素广播至各向量处理单元VPE，同时加载m个卷积核元素，对应相乘并累加到向量累加寄存器中；

S33.重复执行步骤S32，直至完成当前卷积核窗口内各元素的计算，并行输出m个输出特征图的第一个结果元素；

S34.顺移至输入特征图的下一个卷积核窗口，同时将卷积核的加载地址复位至起始地址，返回执行步骤S32，直至完成n个输出特征图的计算。

6.根据权利要求5所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，所述卷积核窗口大小按照卷积核规模k×k进行设定。

7.根据权利要求5所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，所述步骤S32具体重复步骤S32k²次，即循环执行k×k次，完成当前卷积核窗口的计算。

8.根据权利要求5所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，所述步骤S34中具体按照移动步长s顺移卷积核窗口，即水平移动s个元素，顺移时按照先水平后垂直的顺序移动。

9.根据权利要求5～8中任意一项所述的基于向量处理器的矩阵卷积向量化实现方法，其特征在于，具体通过重复执行步骤S32～S34n/m次，以完成n个输出特征图的计算。