[发明专利]用于从卷积提前退出的系统、方法和设备

权利要求书

1.一种用于从卷积提前退出的方法，所述方法包括：

由至少一个处理元件(PE)电路针对与具有操作数集的点积运算相对应的神经网络的节点使用所述操作数集的子集来执行计算，以生成所述操作数集的所述子集的点积值；

由所述至少一个PE电路将所述操作数集的所述子集的所述点积值与阈值进行比较；以及

由所述至少一个PE电路至少基于所述比较的结果来确定是否激活所述神经网络的所述节点。

2.根据权利要求1所述的方法，还包括由所述至少一个PE电路标识所述操作数集的所述子集，以执行所述计算。

3.根据权利要求1或2所述的方法，还包括选择若干操作数作为所述操作数集的所述子集，所述若干操作数使部分点积值比所述阈值至少低一定量。

4.根据权利要求1至3中的任一项所述的方法，还包括选择若干操作数作为所述操作数集的所述子集，所述若干操作数使部分点积值比所述阈值至少高一定量。

5.根据权利要求1至4中的任一项所述的方法，还包括重新排列所述操作数集，以执行所述计算，其中所述操作数是通过重新排列所述神经网络的神经网络图而被重新排列的。

6.根据权利要求1至5中的任一项所述的方法，还包括重新排列所述神经网络的神经网络图的至少一些节点或层的操作数，并且其中所述阈值是基于节能水平而可被设置的，所述节能水平是通过使用所述操作数集的所述子集而不是使用所述操作数集中的全部执行所述计算而可实现的。

7.根据权利要求1至6中的任一项所述的方法，还包括至少基于所述神经网络的输出的期望的准确性来设置所述阈值。

8.根据权利要求1至7中的任一项所述的方法，其中所述操作数集包括所述节点的权重或核。

9.一种用于从卷积提前退出的设备，所述设备包括：

至少一个处理元件(PE)电路，被配置为：

针对与具有操作数集的点积运算相对应的神经网络的节点，使用所述操作数集的子集来执行计算，以生成所述操作数集的所述子集的点积值；

将所述操作数集的所述子集的所述点积值与阈值进行比较；以及

至少基于所述比较的结果，确定是否激活所述神经网络的所述节点。

10.根据权利要求9所述的设备，其中所述至少一个PE电路还被配置为标识所述操作数集的所述子集，以执行所述计算。

11.根据权利要求9或10所述的设备，其中所述至少一个PE电路还被配置为选择若干操作数作为所述操作数集的所述子集，所述若干操作数使部分点积值比所述阈值至少低一定量。

12.根据权利要求9至11中的任一项所述的设备，其中所述至少一个PE电路还被配置为选择若干操作数作为所述操作数集的所述子集，所述若干操作数使所述部分点积值比所述阈值至少高一定量。

13.根据权利要求9至12中的任一项所述的设备，还包括处理器，所述处理器被配置为重新排列所述操作数集，以执行所述计算，其中所述操作数是通过重新排列所述神经网络的神经网络图而被重新排列的。

14.根据权利要求9至13中的任一项所述的设备，还包括处理器，所述处理器被配置为重新排列所述神经网络的神经网络图的至少一些节点或层的操作数，其中所述处理器被配置为至少基于节能水平来设置所述阈值，所述节能水平是通过使用所述操作数集的所述子集而不是使用所述操作数集中的全部执行所述计算而可被实现的。

15.根据权利要求9至14中的任一项所述的设备，还包括处理器，所述处理器被配置为至少基于所述神经网络的输出的期望的准确性来设置所述阈值。