[发明专利]对包含元素级别操作的神经网络进行剪枝

权利要求书

1.一种计算机执行的方法，包括：

识别神经网络内的多个网络层中的多个对应神经元，其中所述多个对应神经元中的每个神经元位于包含在所述多个网络层中的不同网络层中的匹配位置；以及

至少部分地基于与所述多个对应神经元相关联的度量，使来自所述多个网络层的所述多个对应神经元中的每一个神经元失活。

2.根据权利要求1所述的方法，还包括：基于与所述多个对应神经元中的每个神经元相关联的一个或更多个权重，计算与所述多个对应神经元相关联的所述度量。

3.根据权利要求2所述的方法，其中计算所述度量包括：对与所述多个对应神经元中的每个神经元相关联的所述一个或更多个权重执行一个或更多个均衡化操作，以生成所述度量。

4.根据权利要求3所述的方法，其中执行所述一个或更多个均衡化操作包括：对分配给所述多个对应神经元中的第一神经元的一个或更多个权重以及分配给所述多个对应神经元中的第二神经元的一个或更多个权重应用均衡化操作符。

5.根据权利要求3所述的方法，其中所述一个或更多个均衡化操作包括算术平均操作、几何平均操作、并集操作和交集操作中的至少一个。

6.根据权利要求3所述的方法，其中执行所述一个或更多个均衡化操作包括：

确定在所述多个对应神经元中的至少一个神经元与处于或高于阈值的单个度量相关联；以及

将与所述多个对应神经元相关联的所述度量设置为所述阈值。

7.根据权利要求1所述的方法，其中所述神经网格包括残差网络，并且其中所述多个网络层包括所述残差网络的卷积层和所述残差网络的识别层。

8.根据权利要求1所述的方法，其中所述多个对应神经元中的每一个神经元向所述神经网络的给定计算组件产生不同的输入。

9.一种计算机执行的方法，包括：

识别神经网络内的多个网络层中的多个对应神经元，其中所述多个对应神经元中的每一个神经元与匹配的特征类型相关联；以及

至少部分地基于与所述多个对应神经元相关联的度量，使来自所述神经网络内的所述多个网络层的多个对应神经元中的每一个神经元失活。

10.根据权利要求9所述的方法，其中所述多个对应神经元中的每一个神经元可计算地确定在给定的输入数据中存在具有所述特征类型的特征的概率。

11.根据权利要求9所述的方法，还包括：基于与所述多个对应神经元中的每个神经元相关联的一个或更多个权重，计算与所述多个对应神经元相关联的所述度量。

12.根据权利要求11所述的方法，其中计算所述度量包括：对与所述多个对应神经元中的每个神经元相关联的所述一个或更多个权重执行一个或更多个均衡化操作，以生成所述度量。

13.根据权利要求12所述的方法，其中执行所述一个或更多个均衡化操作包括：对分配给所述多个对应神经元中的第一神经元的一个或更多个权重以及分配给所述多个对应神经元中的第二神经元的一个或更多个权重应用均衡化操作符。

14.根据权利要求12所述的方法，其中所述一个或更多个均衡化操作包括算术平均操作、几何平均操作、并集操作和交集操作中的至少一个。

15.根据权利要求12所述的方法，其中执行所述一个或更多个均衡化操作包括：

确定在所述多个对应神经元中的至少一个神经元与处于或高于阈值的单个度量相关联；以及

将与所述多个对应神经元相关联的所述度量设置为所述阈值。