[发明专利]基于ARMv8体系的计算内核优化方法

权利要求书

1.一种基于ARMv8体系的计算内核优化方法，其特征在于，包括如下步骤：

步骤一、构建输入矩阵：通过卷积过程中的im2col函数将卷积核转化成矩阵A，将输入的图像转化成矩阵B；矩阵A矩阵B作为输入矩阵；分别对矩阵A和矩阵B进行量化到8位操作得到量化后的矩阵A和量化后的矩阵B；量化后的矩阵A和量化后的矩阵B作为量化矩阵；

步骤二、对量化矩阵进行分块打包操作得到数据，即将量化矩阵中元素按照计算内核大小顺序，即按照计算内核大小8x8将矩阵按从左至右从上至下的顺序放到连续内存地址；

步骤三、将数据按照上一步中根据内核布局排列好的顺序加载到寄存器，并操作寄存器数据进行乘加计算；

步骤四、将数据的乘加计算得到的结果存储到中间矩阵，进行下一次乘加，直到所有的数据加载完毕；

步骤五、对得到的结果进行解包操作，即将数据按照计算内核大小顺序原路放回原矩阵位置，从而保证计算结果的准确；

所述步骤二中，对量化后的矩阵A和量化后的矩阵B的大小进行判断，保证在矩阵分块的维度上量化矩阵大小能够整除kernel核的大小，如果不能整除的情况下则进行补0操作，确保分块操作能够完整地执行；按照kernel核的大小来对量化矩阵进行分块打包，即将量化矩阵按照kernel核大小和顺序进行重新排列以进行后续数据的计算过程，即按照定义的8x8内核大小将数据按顺序放入连续内存地址循环往复，直至所有的数据分块完毕。

2.如权利要求1所述的基于ARMv8体系的计算内核优化方法，其特征在于，所述步骤一中：

所述矩阵A和矩阵B大小均为5x5，卷积核大小为3x3，按顺序将每一个卷积窗口转换成对应的列向量组成新矩阵；

将输入矩阵进行量化操作得到uint8值即得到量化矩阵，即量化到8bit范围进行运算，其中实数和量化的uint8值的仿射关系式如下

real_value＝scale*(quantized_value-zero_point)

其中，real_value表示真实值，scale表示量化范围，quantized_value表示量化值，zero_point表示量化值的0值，与实数中0所对应。

3.如权利要求2所述的基于ARMv8体系的计算内核优化方法，其特征在于，所述步骤三中，数据的乘加计算方式如下：

3 .1)加载左右矩阵到向量寄存器；

3 .2)判断是否为首次计算，否，则加载上一次计算的中间结果到对应寄存器；

3 .3)对相应寄存器数据进行乘加运算；

3 .4)左右矩阵乘法累加完毕后，得到的结果存储到中间结果寄存器中，在下一次循环中继续加载进来。