[发明专利]神经网络结构的搜索方法、图像处理方法和装置

说明书

本申请提供了人工智能领域中计算机视觉领域的一种神经网络结构的搜索方法、图像处理方法及装置。其中，该神经网络结构的搜索方法包括：根据目标任务确定搜索网络，搜索网络包括结构空间和参数空间；根据目标任务的训练数据，对参数空间进行更新，以获取更新参数空间；从搜索网络中确定子网络集合；对子网络集合进行更新，以获取更新子网络集合；根据更新参数空间和更新子网络集合，确定与目标任务对应的多个目标神经网络。上述技术方案能够通过一次搜索获得多个目标神经网络模型，使得用户可以根据应用场景中的资源约束选择合适的模型进行应用。

技术领域

本申请涉及人工智能领域，并且更具体地，涉及一种神经网络结构的搜索方法、图像处理方法和装置。

背景技术

人工智能(artificial intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。

随着人工智能技术的快速发展，神经网络(例如，深度神经网络)近年来在图像、视频以及语音等多种媒体信号的处理与分析中取得了很大的成就。一个性能优良的神经网络往往拥有精妙的网络结构，而这需要具有高超技能和丰富经验的人类专家花费大量精力进行构建。为了更好地构建神经网络，人们提出了通过神经网络结构搜索(neuralarchitecture search，NAS)的方法来搭建神经网络，通过自动化地搜索神经网络结构，从而得到性能优异的神经网络结构。

在传统的神经网络结构搜索的方法中，首先需要定义一个原则上可以表征的全部的网络架构的搜索空间，然后通过搜索策略从搜索空间中找出候选网络结构并对其进行评估，根据反馈结果进行下一轮的搜索，经过多轮搜索后最终只保留一个子网络结构。然而对于不同的应用场景，资源约束条件不同，传统的神经网络结构的搜索方法获得的一个子网络结构，只能应用于与该一个子网络结构相匹配的场景中，无法满足差异化需求。

发明内容

本申请提供一种神经网络结构的搜索方法、图像处理方法和装置，能够通过一次搜索获得多个目标神经网络模型，使得用户可以根据应用场景中的资源约束选择合适的模型进行应用。

第一方面，提供一种神经网络结构的搜索方法，该方法包括：根据目标任务确定搜索网络，所述搜索网络包括结构空间和参数空间，所述结构空间包括多个子网络结构，所述参数空间包括多个参数，其中，每个子网络结构对应所述参数空间中的至少一个参数；根据目标任务的训练数据，对所述参数空间进行更新，以获取更新参数空间；从所述搜索网络中确定子网络集合，所述子网络集合包括所述多个子网络结构中的多个第一子网络结构；对所述子网络集合进行更新，以获取更新子网络集合，所述更新子网络集合包括所述多个子网络结构中的多个第二子网络结构；根据所述更新参数空间和所述更新子网络集合，确定与所述目标任务对应的多个目标神经网络。

上述搜索网络是根据与目标任务对应的目标神经网络的应用需求确定的。

也就是说，可以根据目标神经网络的应用需求来确定上述搜索网络。具体地，可以根据目标神经网络需要处理的数据的数据类型来确定上述搜索网络。

搜索网络中包括多种连接方式和不同的操作。一般来说，搜索网络中包含的操作种类和数量要与目标神经网络的应用需求相匹配。当上述目标神经网络用于处理图像数据时，上述搜索网络包含的操作种类和数量要与图像数据的处理相适应，当上述目标神经网络用于处理语音数据时，上述搜索网络包含的操作种类和数量要与语音数据的处理相适应。