[发明专利]使用按位运算的神经网络设备和方法

权利要求书

1.一种神经网络处理方法，包括：

获得与神经网络中的层的权重核的第一数据对应的核位串行块；

基于所述层的一个或多个输入特征图的第二数据生成特征图位串行块；以及

通过使用核位串行块与特征图位串行块之间的按位运算执行所述层的卷积运算，生成输出特征图的至少一部分。

2.根据权利要求1所述的神经网络处理方法，其中，核位串行块和特征图位串行块分别包括具有相同的位位置的位。

3.根据权利要求1所述的神经网络处理方法，其中，

核位串行块包括多个第一核位串行块，其中，每个第一核位串行块包括与权重核的元素的多个位位置中的相应的一个位位置对应的位。

4.根据权利要求3所述的神经网络处理方法，其中，所述多个位位置包括最高有效位至最低有效位。

5.根据权利要求1所述的神经网络处理方法，其中，

通过交叉方法，分别沿权重核的通道方向从第一数据提取核位串行块，并且沿所述一个或多个输入特征图的通道方向从第二数据提取特征图位串行块，或者

通过平面方法，分别沿权重核的平面方向从第一数据提取核位串行块，并且沿所述一个或多个输入特征图的平面方向从第二数据提取特征图位串行块。

6.根据权利要求1所述的神经网络处理方法，其中，核位串行块和特征图位串行块基于用于单指令多数据处理的参考位宽。

7.根据权利要求6所述的神经网络处理方法，其中，核位串行块和特征图位串行块中不满足参考位宽的空间使用0填充。

8.根据权利要求6所述的神经网络处理方法，其中，参考位宽是32位、64位和128位中的任何一个。

9.根据权利要求1所述的神经网络处理方法，其中，按位运算包括逻辑与运算和popcount运算。

10.根据权利要求1所述的神经网络处理方法，其中，核位串行块和特征图位串行块具有相同的尺寸。

11.根据权利要求1所述的神经网络处理方法，其中，执行卷积运算的步骤包括：

在核位串行块与特征图位串行块之间执行逻辑与运算；

对逻辑与运算的结果值执行popcount运算；以及

基于popcount运算的结果值确定卷积运算的结果值。

12.根据权利要求11所述的神经网络处理方法，其中，确定卷积运算的结果值的步骤包括：

基于popcount运算的结果值执行位定位。

13.根据权利要求11所述的神经网络处理方法，其中，基于第一数据的位位置来执行位定位。

14.根据权利要求1所述的神经网络处理方法，其中，第一数据和第二数据中的每个由小于8位的位宽表示。

15.根据权利要求1所述的神经网络处理方法，其中，获得核位串行块的步骤包括：

从存储器获得预先存储在存储器中的核位串行块；或者

基于第一数据生成核位串行块。

16.一种存储指令的非暂时性计算机可读存储介质，当由一个或多个处理器执行所述指令时使得所述一个或多个处理器执行权利要求1所述的神经网络处理方法。