[发明专利]训练用于图像识别的神经网络的方法和设备

权利要求书

1.一种训练用于图像识别的神经网络的方法，所述方法包括：

接收输入图像集；

以输入图像集为输入执行预训练的神经网络，以获取使用预训练的神经网络推断的结果值，并基于与输入图像集对应的预定结果值和使用预训练的神经网络推断的结果值获取预训练的神经网络的第一任务准确度；

基于通道单元，通过基于预设学习权重并且基于与预训练的神经网络的多个层中的每个层的通道对应的逐通道修剪参数调整多个通道的节点之间的权重，来修剪神经网络；

以输入图像集为输入执行修剪后的神经网络，以获取使用修剪后的神经网络推断的结果值，并基于预定结果值和使用修剪后的神经网络推断的结果值获取修剪后的神经网络的任务准确度；

基于第一任务准确度和修剪后的神经网络的任务准确度来更新学习权重；

基于更新后的学习权重和修剪后的神经网络的任务准确度来更新逐通道修剪参数；和

基于通道单元，基于更新后的学习权重并且基于更新后的逐通道修剪参数来重新修剪修剪后的神经网络。

2.根据权利要求1所述的方法，其中，逐通道修剪参数包括用于确定修剪阈值的第一参数。

3.根据权利要求1所述的方法，其中，修剪的步骤包括：

修剪所述多个通道之中的通道元素以阈值比率或更大的比率占据0的通道。

4.根据权利要求1所述的方法，其中，更新学习权重的步骤包括：响应于修剪后的神经网络的任务准确度小于第一任务准确度，更新学习权重，使得修剪后的神经网络的任务准确度增大。

5.根据权利要求1至权利要求4中的任意一项所述的方法，还包括：

重复地执行确定重新修剪后的神经网络的任务准确度和重新修剪后的神经网络的学习权重的修剪-评估操作。

6.根据权利要求5所述的方法，还包括：

基于预设回合和重新修剪后的神经网络的任务准确度来确定是否额外执行修剪-评估操作。

7.根据权利要求5所述的方法，还包括：

响应于重复地执行修剪-评估操作，将确定的学习权重与学习权重的下限阈值进行比较；和

基于比较的结果，确定是否终止当前修剪会话并发起学习权重被设置为初始参考值的后续修剪会话。

8.一种训练用于图像识别的神经网络的设备，所述设备包括：

处理器，处理器被配置为：

接收输入图像集，

以输入图像集为输入执行预训练的神经网络，以获取使用预训练的神经网络推断的结果值，并基于与输入图像集对应的预定结果值和使用预训练的神经网络推断的结果值获取预训练的神经网络的第一任务准确度，

基于通道单元，通过基于预设学习权重并且基于与预训练的神经网络的多个层中的每个层的通道对应的逐通道修剪参数调整多个通道的节点之间的权重，来修剪神经网络，

以输入图像集为输入执行修剪后的神经网络，以获取使用修剪后的神经网络推断的结果值，并基于预定结果值和使用修剪后的神经网络推断的结果值获取修剪后的神经网络的任务准确度，

基于第一任务准确度和修剪后的神经网络的任务准确度来更新学习权重，

基于更新后的学习权重和修剪后的神经网络的任务准确度来更新逐通道修剪参数，和

基于通道单元，基于更新后的学习权重并且基于更新后的逐通道修剪参数来重新修剪修剪后的神经网络。

9.根据权利要求8所述的设备，其中，逐通道修剪参数包括用于确定修剪阈值的第一参数。

10.根据权利要求8所述的设备，其中，为了修剪，处理器被配置为：修剪所述多个通道之中的包括在通道中的通道元素以阈值比率或更大的比率占据0的通道。

11.根据权利要求8所述的设备，其中，为了更新学习权重，处理器被配置为：响应于修剪后的神经网络的任务准确度小于第一任务准确度，更新学习权重，使得修剪后的神经网络的任务准确度增大。