[发明专利]超网络的训练方法、装置、电子设备和存储介质

权利要求书

1.一种超网络的训练方法，包括：

基于预设超网络进行N次迭代操作，得到目标超网络；其中，N为大于等于2的整数；

其中，所述N次迭代操作中的第i次迭代操作，包括：

利用第i-1个概率模型，在使用第i-1组超网络参数的预设超网络的搜索空间中选取m个子网络；其中，i为小于等于N的正整数，m为正整数；

基于所述第i-1组超网络参数对所述m个子网络进行评估，得到所述m个子网络的性能信息；

基于所述m个子网络的性能信息，得到第i个概率模型；

基于所述第i-1个概率模型的超参数与所述第i个概率模型的超参数之间的互信息，得到第i组超网络参数；

在i等于预设阈值N的情况下，将使用所述第i组超网络参数的预设超网络作为所述目标超网络。

2.根据权利要求1所述的方法，其中，所述利用第i-1个概率模型，在使用第i-1组超网络参数的预设超网络的搜索空间中选取m个子网络，包括：

利用第i-1个概率模型，在所述使用第i-1组超网络参数的预设超网络的搜索空间中选取使得信息熵最大化的m个子网络。

3.根据权利要求1所述的方法，其中，所述基于所述m个子网络的性能信息，得到第i个概率模型，包括：

基于所述m个子网络的性能信息进行最大似然估计，得到第i组概率模型超参数；

基于所述第i组概率模型超参数，得到所述第i个概率模型。

4.根据权利要求1所述的方法，其中，所述基于所述第i-1个概率模型的超参数与所述第i个概率模型的超参数之间的互信息，得到第i组超网络参数，包括：

将所述第i-1个概率模型的超参数与所述第i个概率模型的超参数之间的互信息的倒数作为损失函数；

基于所述损失函数对所述第i-1组超网络参数进行更新，得到第i组超网络参数。

5.根据权利要求1-4中任一项所述的方法，还包括：

利用第N个概率模型，在所述目标超网络的搜索空间中选取k个子网络；其中，k为正整数；

基于所述目标超网络的超网络参数对所述k个子网络进行评估，得到所述k个子网络的性能信息；

将所述k个子网络的性能信息中的最大值所对应的子网络，确定为目标子网络。

6.根据权利要求5所述的方法，还包括：

获取待处理图像；

利用所述目标子网络对所述待处理图像进行处理，得到所述待处理图像的图像处理结果。

7.一种超网络的训练装置，包括：

迭代模块，用于基于预设超网络进行N次迭代操作，得到目标超网络；其中，N为大于等于2的整数；

其中，所述迭代模块包括：

子网络单元，用于利用第i-1个概率模型，在使用第i-1组超网络参数的预设超网络的搜索空间中选取m个子网络；其中，i为小于等于N的正整数，m为正整数；

性能信息单元，用于基于所述第i-1组超网络参数对所述m个子网络进行评估，得到所述m个子网络的性能信息；

概率模型单元，用于基于所述m个子网络的性能信息，得到第i个概率模型；

超网络参数单元，用于基于所述第i-1个概率模型的超参数与所述第i个概率模型的超参数之间的互信息，得到第i组超网络参数；

目标超网络单元，用于在i等于预设阈值N的情况下，将使用所述第i组超网络参数的预设超网络作为所述目标超网络。

8.根据权利要求7所述的装置，其中，所述性能信息单元用于：

利用第i-1个概率模型，在所述使用第i-1组超网络参数的预设超网络的搜索空间中选取使得信息熵最大化的m个子网络。

9.根据权利要求7所述的装置，其中，所述概率模型单元用于：

基于所述m个子网络的性能信息进行最大似然估计，得到第i组概率模型超参数；

基于所述第i组概率模型超参数，得到所述第i个概率模型。