[发明专利]神经网络运算装置及方法

权利要求书

1.一种神经网络运算装置，其特征在于包括：

稀疏化处理单元，用于对权值矩阵进行稀疏化处理，生成一二进制的稀疏序列，其中，“0”对应权值矩阵中数值为“0”的元素，“1”对应变换后权值矩阵中数值不为0的元素；

映射单元，用于所述生成稀疏序列与神经元矩阵中元素位置的映射关系表，稀疏序列的第K位对应M行×N列神经元矩阵中第i行第j列元素，且满足(i-1)×N+j＝K或者(j-1)×M+i＝K；

控制器，用于控制所述稀疏化处理单元生成稀疏序列以及控制所述映射单元生成映射关系表。

2.根据权利要求1所述的神经网络运算装置，其特征在于，所述稀疏序列从高位至低位对应权值矩阵逐行或逐列读取的元素。

3.根据权利要求1所述的神经网络运算装置，其特征在于，还包括数据缓存单元，用于缓存所述稀疏序列和映射关系表。

4.根据权利要求1所述的神经网络运算装置，用于以矩阵乘法的方式实现神经网络中的权值矩阵与神经元的卷积运算，还包括运算器，运算器包括：

移位运算器，用于对所述神经元矩阵和权值矩阵分别进行winograd变换，得到变换后神经元矩阵和变换后权值矩阵；

矩阵乘法运算器，用于将所述变换后神经元矩阵和变换后权值矩阵进行对位相乘的矩阵乘法操作，得到乘法矩阵；

所述移位运算器还用于将所述乘法矩阵进行winograd反变换，得到卷积运算结果；

所述控制器还用于控制所述移位运算器进行winograd变换或winograd反变换，还用于控制所述矩阵乘法运算器进行矩阵乘法操作。

5.根据权利要求4所述的神经网络运算装置，其特征在于，还包括片上缓存，用于存储所述神经元矩阵和权值矩阵，还用于存储对神经元矩阵进行winograd变换的变换矩阵C，用于存储对权值矩阵进行winograd变换的变换矩阵G；优选的，所述变换矩阵C和所述变换矩阵G中的元素数值独立为±2ⁿ或0，n为整数；优选的，所述片上缓存还用于存储对神经元矩阵进行winograd反变换的反变换矩阵A；优选的，所述反变换矩阵A中的元素数值为±2ⁿ或0，n为整数。

6.根据权利要求5所述的神经网络运算装置，其特征在于，所述控制器还用于根据所述变换矩阵C或其转置矩阵C^T，控制所述移位运算器对神经元矩阵或权值矩阵中各元素的二进制数值独立进行左移或右移；或根据所述变换矩阵G或其转置矩阵G^T，控制所述移位运算器对权值矩阵中各元素二进制数值独立进行左移或右移；或者，所述控制器还用于根据所述反变换矩阵A或其转置矩阵A^T，对乘法矩阵中各元素的二进制数值独立进行左移或右移；优选的，还包括加法器，用于在所述神经元矩阵和权值矩阵分别进行winograd变换时，对移位运算器移位运算后的结果按照矩阵乘法规则累加。

7.根据权利要求4所述的神经网络运算装置，其特征在于，所述控制器还用于根据所述映射关系表，控制所述矩阵乘法运算器进行矩阵乘法操作，其中，稀疏序列中为“0”的位对应神经元矩阵中的相应元素不进行矩阵乘法运算。

8.应用权利要求1-7任一所述神经网络运算装置进行权值矩阵与神经元矩阵进行乘法运算的方法，包括：

通过稀疏化处理单元对权值矩阵进行稀疏化处理，生成一二进制的稀疏序列，其中，“0”对应权值矩阵中数值为“0”的元素，“1”对应变换后权值矩阵中数值不为0的元素，优选的，所述稀疏序列从高位至低位对应变换后权值矩阵逐行或逐列读取的元素；

通过映射单元生成所述稀疏序列与神经元矩阵中元素位置的映射关系表，稀疏序列的第K位对应M行×N列神经元矩阵中第i行第j列元素，且满足(i-1)×N+j＝K或者(j-1)×M+i＝K；

通过控制器控制所述稀疏化处理单元生成稀疏序列以及控制所述映射单元生成映射关系表。