[发明专利]一种卷积神经网络的加速方法及装置

权利要求书

1.一种卷积神经网络的加速方法，其特征在于，包括：

步骤1、根据权值大小对权重矩阵进行降序排列，并记录降序排列前的权值索引；

步骤2、利用降序排列后的权重矩阵与特征矩阵进行乘累加运算；

步骤3、判断所述乘累加运算的结果是否小于零，如是，则结束运算并输出结果为0，如否，则继续步骤2的运算，直至得出最后运算结果。

2.根据权利要求1所述的卷积神经网络的加速方法，其特征在于，所述步骤2中的乘累加运算具体包括：

按照排序后的权重矩阵的权值与根据所述权值索引匹配对应的特征矩阵的特征值进行乘累加运算。

3.根据权利要求1所述的卷积神经网络的加速方法，其特征在于，所述步骤1还包括：

在所述根据权值大小对权重矩阵进行降序排列时，根据所述特征矩阵设置所述权重矩阵的标志位。

4.根据权利要求3所述的卷积神经网络的加速方法，其特征在于，若所述特征矩阵中的特征值为0，则所述特征值对应的所述权重矩阵中的权值的标志位设为无效；若所述特征矩阵中的特征值为非0，则所述特征值对应的所述权重矩阵中的权值的标志位设为有效。

5.根据权利要求4所述的卷积神经网络的加速方法，其特征在于，所述标志位的有效和无效分别用1和0表示。

6.根据权利要求4或5所述的卷积神经网络的加速方法，其特征在于，在进行所述步骤2中的乘累加运算时，跳过所述标志位设为无效的权值的运算。

7.一种卷积神经网络的加速装置，其特征在于，包括：

权重矩阵排序模块，用于根据权值大小对权重矩阵进行降序排列，并记录降序排列前的权值索引；

乘数累加模块，用于利用降序排列后的权重矩阵与特征矩阵进行乘累加运算；

运算结果检测模块，用于判断所述乘累加运算的结果是否小于零，如是，则结束运算并输出结果为0，如否，则继续所述乘累加运算，直至得出最后运算结果。

8.根据权利要求7所述的卷积神经网络的加速装置，其特征在于，所述乘数累加模块中的乘累加运算具体包括：

按照排序后的权重矩阵中的权值与根据所述权值索引匹配对应的特征矩阵中的特征值进行乘累加运算。

9.根据权利要求7所述的卷积神经网络的加速装置，其特征在于，所述权重矩阵排序模块还包括：

标志位设置子模块，用于在所述根据权值大小对权重矩阵进行降序排列时，根据所述特征矩阵设置所述权重矩阵的标志位。

10.根据权利要求9所述的卷积神经网络的加速装置，其特征在于，若所述特征矩阵中的特征值为0，则所述特征值对应的所述权重矩阵中的权值的标志位设为无效；若所述特征矩阵中的特征值为非0，则所述特征值对应的所述权重矩阵中的权值的标志位设为有效。

11.根据权利要求10所述的卷积神经网络的加速装置，其特征在于，所述标志位的有效和无效分别用1和0表示。

12.根据权利要求10或11所述的卷积神经网络的加速装置，其特征在于，在进行所述乘数累加模块中的乘累加运算时，跳过所述标志位设为无效的权值的运算。