[发明专利]神经网络结构搜索方法、装置、计算机设备以及存储介质

权利要求书

1.一种神经网络结构搜索方法，其特征在于，包括：

获取用于执行神经网络模型的搜索任务的预先训练的模型搜索空间；所述模型搜索空间中包含多个具有连接关系的网络模块；

确定与所述搜索任务相匹配的多个搜索维度的搜索范围；其中，多个搜索维度用于表征待搜索的神经网络模型的模型结构；

基于各个搜索维度的搜索范围对所述模型搜索空间中的每个网络模块进行搜索，得到满足所述搜索任务所指示的计算资源约束条件的网络模块；其中，所述搜索包括网络模块的结构修剪；

基于所述搜索到的网络模块之间的连接关系和所述搜索到的网络模块确定子网络模型，并基于所述子网络模型确定目标神经网络模型；所述目标神经网络模型用于执行待处理图像的图像处理任务；

其中，所述多个搜索维度包括：模型结构参数和卷积层参数，所述模型结构参数包括模型深度参数，所述卷积层参数包括卷积层通道数、卷积核大小参数以及卷积层分组参数；

其中，所述方法还包括：通过所述子网络模型对预设测试集进行处理，得到测试结果；所述测试结果用于表征对应子网络模型的预测准确度；在所述测试结果中未确定出满足测试条件的测试结果的情况下，根据所述测试结果，缩小当前时刻每个搜索维度所对应的搜索范围，得到更新之后的搜索范围，并根据更新之后的目标搜索范围对每个网络模块进行搜索。

2.根据权利要求1所述的方法，其特征在于，所述基于各个搜索维度的搜索范围对所述模型搜索空间中的每个网络模块进行搜索，得到满足所述搜索任务所指示的计算资源约束条件的网络模块，包括：

基于至少部分搜索维度分别对应的至少一个搜索范围，确定目标搜索范围；

基于确定出的目标搜索范围对每个网络模块进行搜索，搜索得到满足所述计算资源约束条件的多个网络模块。

3.根据权利要求1或2所述的方法，其特征在于，所述基于所述子网络模型确定所述目标神经网络模型，包括：

通过子网络模型对预设测试集进行处理，得到测试结果；其中，所述测试结果用于表征对应子网络模型的预测准确度；

在所述测试结果中确定目标测试结果所对应的子网络模型为所述目标神经网络模型，其中，所述目标测试结果为测试结果中满足测试条件的测试结果。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

在所述子网络模型的测试结果中未确定出所述目标测试结果的情况下，更新每个所述搜索维度对应的目标搜索范围；

根据更新之后的目标搜索范围对每个网络模块进行搜索，直至在搜索到满足所述计算资源约束条件的多个子网络模型的测试结果中确定出目标测试结果的情况下，基于该目标测试结果所对应的子网络模型确定所述目标神经网络模型。

5.根据权利要求1所述的方法，其特征在于，所述多个搜索维度包括以下至少之一：模型结构参数、卷积层参数、注意力模块参数；

所述模型结构参数用于表征执行所述搜索任务的网络模块的模块数量；

所述卷积层参数用于表征以下至少之一：执行所述搜索任务的网络模块输出特征的通道数量、执行所述搜索任务的卷积层的卷积核大小、执行所述搜索任务的卷积层的分组数量；

所述注意力模块参数用于指示是否使用每个网络模块中预先设置的注意力模块。

6.根据权利要求5所述的方法，其特征在于，

所述多个搜索维度包括所述模型结构参数，所述模型结构参数包括：模型深度参数；

和/或，

所述多个搜索维度包括所述卷积层参数，所述卷积层参数包括以下至少之一：卷积层通道数、卷积核大小参数、卷积层分组参数。

7.根据权利要求1所述的方法，其特征在于，所述获取用于执行神经网络模型的搜索任务的模型搜索空间，包括：

按照所述搜索任务在预先训练的超网络中获取所述模型搜索空间，其中，所述超网络为预先设定的包含多个网络模块的神经网络模型。