[发明专利]训练用于图像识别的神经网络的方法和设备

说明书

公开了一种训练用于图像识别的神经网络的方法和设备。所述方法包括：接收输入图像集；以输入图像集为输入执行预训练的神经网络，以获取推断的结果值，并基于与输入图像集对应的预定结果值和推断的结果值获取预训练的神经网络的第一任务准确度；基于通道单元，通过基于预设学习权重并基于与预训练的神经网络的多个层中的每个的通道对应的逐通道修剪参数调整多个通道的节点之间的权重，来修剪神经网络；基于第一任务准确度和修剪后的神经网络的任务准确度更新学习权重；基于更新后的学习权重和修剪后的神经网络的任务准确度更新逐通道修剪参数；和基于通道单元，基于更新后的学习权重并基于更新后的逐通道修剪参数重新修剪修剪后的神经网络。

本申请要求于2020年10月13日在韩国知识产权局提交的第10-2020-0132151号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

下面的描述涉及训练用于图像识别的神经网络的方法和设备。

背景技术

人工神经网络可以是计算架构。使用神经网络装置，输入数据可被分析并且有效信息可被提取。

人工神经网络装置可使用大的计算量来处理复杂的输入数据。随着人工神经网络的学习量增大，构成人工神经网络的连接性可能变得复杂。另外，旧学习数据的准确度增大，新数据的估计值的置信度可能降低。也就是说，过拟合(overfitting)问题可能发生。此外，人工神经网络的复杂度可能增大，存储器分配量可能相应地过度增大，这可能导致小型化和商业化方面的问题。

发明内容

提供本发明内容来以简化的形式介绍在以下具体实施方式中进一步描述的构思的选择。本发明内容不意在确认要求权利的主题的关键特征或必要特征，也不意在用于帮助确定要求权利的主题的范围。

在一个总体方面，一种训练用于图像识别的神经网络的方法包括：接收输入图像集；以输入图像集为输入执行预训练的神经网络，以获取使用预训练的神经网络推断的结果值，并基于与输入图像集对应的预定结果值和使用预训练的神经网络推断的结果值获取预训练的神经网络的第一任务准确度；基于通道单元，通过基于预设学习权重并且基于与预训练的神经网络的多个层中的每个层的通道对应的逐通道修剪参数调整多个通道的节点之间的权重，来修剪神经网络；以输入图像集为输入执行修剪后的神经网络，以获取使用修剪后的神经网络推断的结果值，并基于预定结果值和使用修剪后的神经网络推断的结果值获取修剪后的神经网络的任务准确度；基于第一任务准确度和修剪后的神经网络的任务准确度来更新学习权重；基于更新后的学习权重和修剪后的神经网络的任务准确度来更新逐通道修剪参数；和基于通道单元，基于更新后的学习权重并且基于更新后的逐通道修剪参数来重新修剪修剪后的神经网络。

在一个总体方面，一种训练用于图像识别的神经网络的设备包括：处理器，处理器被配置为：接收输入图像集，以输入图像集为输入执行预训练的神经网络，以获取使用预训练的神经网络推断的结果值，并基于与输入图像集对应的预定结果值和使用预训练的神经网络推断的结果值获取预训练的神经网络的第一任务准确度，基于通道单元，通过基于预设学习权重并且基于与预训练的神经网络的多个层中的每个层的通道对应的逐通道修剪参数调整多个通道的节点之间的权重，来修剪神经网络，以输入图像集为输入执行修剪后的神经网络，以获取使用修剪后的神经网络推断的结果值，并基于预定结果值和使用修剪后的神经网络推断的结果值获取修剪后的神经网络的任务准确度，基于第一任务准确度和修剪后的神经网络的任务准确度来更新学习权重，基于更新后的学习权重和修剪后的神经网络的任务准确度来更新逐通道修剪参数，和基于通道单元，基于更新后的学习权重并且基于更新后的逐通道修剪参数来重新修剪修剪后的神经网络。