[发明专利]神经网络结构的搜索方法、图像处理方法和装置

权利要求书

1.一种神经网络结构的搜索方法，其特征在于，包括：

根据目标任务确定搜索网络，所述搜索网络包括结构空间和参数空间，所述结构空间包括多个子网络结构，所述参数空间包括多个参数，其中，每个子网络结构对应所述参数空间中的至少一个参数；

根据目标任务的训练数据，对所述参数空间进行更新，以获取更新参数空间；

从所述搜索网络中确定子网络集合，所述子网络集合包括所述多个子网络结构中的多个第一子网络结构；

对所述子网络集合进行更新，以获取更新子网络集合，所述更新子网络集合包括所述多个子网络结构中的多个第二子网络结构；

根据所述更新参数空间和所述更新子网络集合，确定与所述目标任务对应的多个目标神经网络。

2.根据权利要求1所述的搜索方法，其特征在于，所述根据目标任务的训练数据，对所述参数空间进行更新，以获取更新参数空间，包括：

输入所述目标任务的训练数据；

基于梯度反向传播算法对所述参数空间进行更新，其中所述参数空间的梯度为所述多个第一子网络结构中的部分第一子网络结构所对应的参数梯度的平均值。

3.根据权利要求1或2所述的搜索方法，其特征在于，所述对所述子网络集合进行更新，以获取更新子网络集合，包括：

基于粒子群算法、遗传算法和烟花算法中的任意一种算法对所述多个第一子网络结构进行处理，得到下一代子网络结构；

基于非支配排序算法，根据第一度量目标对所述多个第一子网络结构和所述下一代子网络结构进行等级划分得到第一次等级划分结果；

基于非支配排序算法，根据第二度量目标对所述多个第一子网络结构和所述下一代子网络结构进行等级划分得到第二次等级划分结果；

将所述第一次等级划分结果与所述第二次等级划分结果中相同等级中所包括的子网络结构分别进行合并，得到合并的等级划分结果；

从合并的等级划分结果中选择多个子网络结构为所述多个第二子网络结构。

4.根据权利要求3所述的搜索方法，其特征在于，所述第一度量目标包括参数量、网络运行时间、网络所需运行内存、网络计算量、能耗、浮点运算数目中的至少一个和准确率，所述第二度量目标包括参数量、网络运行时间、网络所需运行内存、网络计算量、能耗、浮点运算数目中的至少一个和准确率的增长速率。

5.根据权利要求1至4中任一项所述的搜索方法，其特征在于，还包括：

获取待处理目标任务数据；

根据终端设备的计算资源和/或存储资源从所述多个目标神经网络中选择第一目标神经网络；

根据所述第一目标神经网络对所述待处理目标任务数据进行处理，得到与所述目标任务对应的处理结果。

6.一种神经网络结构的搜索方法，其特征在于，包括：

根据目标任务确定搜索网络，所述搜索网络包括结构空间，所述结构空间包括多个子网络结构；

从所述搜索网络中确定子网络集合，所述子网络集合包括所述多个子网络结构中的多个第一子网络结构；

对所述子网络集合进行更新，以获取更新子网络集合，所述更新子网络集合包括所述多个子网络结构中的多个第二子网络结构；

根据所述更新子网络集合，确定与所述目标任务对应的多个目标神经网络。

7.根据权利要求6所述的搜索方法，其特征在于，所述对所述子网络集合进行更新，以获取更新子网络集合，包括：

基于粒子群算法、遗传算法和烟花算法中的任意一种算法对所述多个第一子网络结构进行处理，得到下一代子网络结构；

基于非支配排序算法，根据第一度量目标对所述多个第一子网络结构和所述下一代子网络结构进行等级划分得到第一次等级划分结果；

基于非支配排序算法，根据第二度量目标对所述多个第一子网络结构和所述下一代子网络结构进行等级划分得到第二次等级划分结果；

将第一次等级划分结果与所述第二次等级划分结果中相同等级中所包括的子网络结构分别进行合并，得到合并的等级划分结果；

从合并的等级划分结果中选择多个子网络结构为所述多个第二子网络结构。