[发明专利]神经网络架构搜索方法、图像处理方法、装置和存储介质

说明书

本申请提供了神经网络架构的搜索方法、图像处理方法、装置和存储介质。涉及人工智能领域，具体涉及计算机视觉领域。该方法包括：确定搜索空间和多个构建单元，并对该多个构建单元进行堆叠，以得到第一阶段的初始神经网络架构，然后对第一阶段的初始神经网络架构进行优化，直至收敛；在得到第一阶段优化后的初始神经网络架构之后，再对第二阶段的初始神经网络架构进行优化，直至收敛，以得到优化后的构建单元，最后再根据优化后的构建单元搭建目标神经网络。其中，第一阶段的初始神经网络架构和第二阶段的初始神经网络架构中的每条边分别对应一类操作和多种操作组成的混合操作符，本申请能够搜索得到性能更好的目标神经网络。

技术领域

本申请涉及人工智能领域，并且更具体地，涉及一种神经网络架构的搜索方法、图像处理方法、装置和存储介质。

背景技术

人工智能(artificial intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索， AI基础理论等。

随着人工智能技术的快速发展，神经网络(例如，深度神经网络)近年来在图像、视频以及语音等多种媒体信号的处理与分析中取得了很大的成就。一个性能优良的神经网络往往拥有精妙的网络结构，而这需要具有高超技能和丰富经验的人类专家花费大量精力进行构建。为了更好地构建神经网络，人们提出了通过神经网络架构(结构)搜索(neuralarchitecture search，NAS)的方法来搭建神经网络，通过自动化地搜索神经网络架构，从而得到性能优异的神经网络架构。因此，如何通过神经网络架构搜索得到一个性能较好的神经网络架构是一个比较重要的问题。

发明内容

本申请提供一种神经网络架构的搜索方法、图像处理方法、装置和存储介质，以搜索得到性能更好的神经网络。

第一方面，提供了一种神经网络架构的搜索方法，该方法包括：确定搜索空间和多个构建单元；对上述多个构建单元进行堆叠，以得到第一阶段的初始神经网络架构；接下来，对第一阶段的初始神经网络架构进行优化，直至收敛，以得到第一阶段优化后的初始神经网络架构；获取第二阶段的初始神经网络架构，并对第二阶段的初始神经网络架构进行优化，直至收敛，以得到优化后的构建单元；最后再根据优化后的构建单元搭建目标神经网络。

其中，上述搜索空间包括多组备选操作符，每组备选操作符包括至少一个操作符，并且每组备选操作符包括的操作符的种类相同(每组操作符中的至少一个操作符属于同一种类的操作符)。

上述多个构建单元中的每个构建单元是由多个节点之间通过神经网络的基本操作符连接得到的网络结构，上述多个构建单元中的每个构建单元的节点之间的连接形成边。

上述第一阶段的初始神经网络架构和第二阶段的初始神经网络架构的结构相同，具体地，上述第一阶段的初始神经网络架构包括的构建单元的种类和数量与第二阶段的初始神经网络架构包括的构建单元的种类和数量相同，并且第一阶段的初始神经网络架构中的第 i个构建单元的结构与第二阶段的初始神经网络架构中的第i个构建单元的结构完全相同， i为正整数。

上述第一阶段的初始神经网络架构和第二阶段的初始神经网络架构的区别在于对应构建单元中相应边对应的备选操作符不同。

具体地，上述第一阶段的初始神经网络架构中的每个构建单元的每条边对应多个备选操作符，该多个备选操作符中的每一个备选操作符对应来自多组备选操作符中的一组。