[发明专利]神经网络的搜索方法及装置

说明书

本申请公开了人工智能领域中计算机视觉领域的一种神经网络的搜索方法及装置。该搜索方法包括：构建基本单元，该基本单元是通过神经网络的基本操作将基本模块进行连接得到的一种网络结构，该基本模块包括第一模块，该第一模块用于对第一输入特征图进行降维操作和残差连接操作，该降维操作用于将该第一输入特征图的尺度从原始的第一尺度变换至第二尺度，该第二尺度小于该第一尺度，该残差连接操作用于将该第一输入特征图与经过该第一模块处理后的特征图进行特征相加处理；根据该基本单元和网络结构参数构建搜索空间；在所述搜索空间中进行网络结构搜索确定目标图像超分辨率网络。本申请能够在计算性能一定的情况下，提高超分辨率网络的精度。

技术领域

本申请涉及人工智能领域，并且更具体地，涉及一种神经网络的搜索方法及装置。

背景技术

人工智能(artificial intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。

随着人工智能技术的快速发展，神经网络(例如，深度神经网络)近年来在图像、视频以及语音等多种媒体信号的处理与分析中取得了很大的成就。图像超分辨率重构技术是指将低分辨率图像进行重构得到高分辨率图像，通过深度神经网络进行图像超分辨率重构处理具有明显的优势，随着图像超分辨率重构技术效果的提升深度神经网络模型也越来越大。由于移动设备的计算性能和存储空间都非常有限，这极大的限制了超分模型在移动设备上的应用，因此，人们致力于设计轻量级的超分网络模型，在保证一定的识别精度情况下，尽可能减少网络规模。

为了获取轻量级的超分网络模型，将神经网络结构搜索(neural architecturesearch，NAS)的方法应用于图像超分辨率重构技术中。目前，NAS方法中的搜索空间通常是由基本卷积单元构建的搜索空间，搜索空间中可以包括由多个基本单元构建的候选神经网络模型，多个基本单元基于输入特征图尺寸大小在相同特征尺寸上对输入特征图进行非线性变换，这导致神经网络模型中的参数量和计算量成正比，即参数量越大则网络模型的计算量越大。在移动设备的计算性能受限的情况下，只能通过减少参数量而降低计算量，从而限制了用于超分辨率重构的网络模型的性能。因此，在移动设备的计算性能受限制的情况下，如何提高超分辨率神经网络的性能成为一个亟需解决的问题。

发明内容

本申请提供一种神经网络的搜索方法及装置，能够在移动设备的计算性能受限制的情况下，提高超分辨率网络进行图像超分辨率处理时的精度。

第一方面，提供了一种神经网络结构的搜索方法，包括：构建基本单元，该基本单元是通过神经网络的基本操作将基本模块进行连接得到的一种网络结构，该基本模块包括第一模块，该第一模块用于对第一输入特征图进行降维操作和残差连接操作，该降维操作用于将该第一输入特征图的尺度从原始的第一尺度变换至第二尺度，该第二尺度小于该第一尺度，该残差连接操作用于将该第一输入特征图与经过该第一模块处理后的特征图进行特征相加处理，该第一模块处理后的特征图的尺度和该第一输入特征图的尺度相同；根据该基本单元和网络结构参数构建搜索空间，其中，该网络结构参数包括构建该基本单元使用的基本模块的类型，该搜索空间用于搜索图像超分辨率网络结构；在该搜索空间中进行图像超分辨率网络结构搜索确定目标图像超分辨率网络，该目标图像超分辨率网络用于对待处理图像进行超分辨率处理，该目标图像超分辨率网络中至少包括该第一模块，该目标图像超分辨率网络为计算量小于第一预设阈值且图像超分辨率精度大于第二预设阈值的网络。