[发明专利]超网络的训练方法、装置、电子设备和存储介质

说明书

本公开提供了超网络的训练方法、装置、电子设备和存储介质，涉及人工智能领域，尤其涉及计算机视觉和深度学习等领域。具体实现方案为：基于预设超网络进行N次迭代操作，得到目标超网络；其中，N次迭代操作中的第i次迭代操作，包括：将预设分辨率的i倍作为特征图分辨率，基于特征图分辨率和预设骨架结构得到扩展子网络；基于扩展子网络，更新预设超网络，并对更新后的预设超网络进行训练，得到收敛的超网络；在i等于预设阈值N的情况下，将收敛的超网络确定为目标超网络。根据本公开实施例，可以提升在目标超网络的搜索空间中搜索到的子网络在图像处理场景中的性能。

技术领域

本公开涉及人工智能领域，尤其涉及计算机视觉和深度学习等领域。

背景技术

NAS(Neural Architecture Search，神经网络架构搜索)的原理是给定一个称为搜索空间的神经网络结构集合，基于搜索策略从中搜索出最优网络结构。在图像处理场景中，可以采用NAS技术，从搜索空间中搜索用于图像处理的网络结构。用于图像处理的搜索空间中可包含海量的网络结构，每个网络结构中包括多个模块(block)、子模块(subblock)或神经网络层(layer)。一般来说，这些模块或神经网络层具有固定的特征图分辨率。

发明内容

本公开提供了一种超网络的训练方法、装置、电子设备和存储介质。

根据本公开的一方面，提供了一种超网络的训练方法，包括：

基于预设超网络进行N次迭代操作，得到目标超网络；其中，N为大于等于2的整数；

其中，N次迭代操作中的第i次迭代操作，包括：

将预设分辨率的i倍作为特征图分辨率，基于特征图分辨率和预设骨架结构得到扩展子网络；其中，i为小于等于N的正整数；

基于扩展子网络，更新预设超网络，并对更新后的预设超网络进行训练，得到收敛的超网络；

在i等于预设阈值N的情况下，将收敛的超网络确定为目标超网络。

根据本公开的另一方面，提供了一种超网络的训练装置，包括：

迭代模块，用于基于预设超网络进行N次迭代操作，得到目标超网络；其中，N为大于等于2的整数；

其中，迭代模块包括：

分辨率扩展单元，用于将预设分辨率的i倍作为特征图分辨率，基于特征图分辨率和预设骨架结构得到扩展子网络；其中，i为小于等于N的正整数；

超网络训练单元，用于基于扩展子网络，更新预设超网络，并对更新后的预设超网络进行训练，得到收敛的超网络；

目标确定单元，用于在i等于预设阈值N的情况下，将收敛的超网络确定为目标超网络。

根据本公开的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与该至少一个处理器通信连接的存储器；其中，

该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开任一实施例中的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行本公开任一实施例中的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现本公开任一实施例中的方法。