[发明专利]神经网络的搜索方法及装置在审
申请号: | 201910695706.7 | 申请日: | 2019-07-30 |
公开(公告)号: | CN112308200A | 公开(公告)日: | 2021-02-02 |
发明(设计)人: | 宋德华;贾旭;王云鹤;许春景 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06T3/40 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 孙涛;毛威 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 搜索 方法 装置 | ||
1.一种神经网络的搜索方法,其特征在于,包括:
构建基本单元,所述基本单元是通过神经网络的基本操作将基本模块进行连接得到的一种网络结构,所述基本模块包括第一模块,所述第一模块用于对第一输入特征图进行降维操作和残差连接操作,所述降维操作用于将所述第一输入特征图的尺度从原始的第一尺度变换至第二尺度,所述第二尺度小于所述第一尺度,所述残差连接操作用于将所述第一输入特征图与经过所述第一模块处理后的特征图进行特征相加处理,所述第一模块处理后的特征图的尺度和所述第一输入特征图的尺度相同;
根据所述基本单元和网络结构参数构建搜索空间,其中,所述网络结构参数包括构建所述基本单元使用的基本模块的类型,所述搜索空间用于搜索图像超分辨率网络结构;
在所述搜索空间中进行图像超分辨率网络结构搜索确定目标图像超分辨率网络,所述目标图像超分辨率网络用于对待处理图像进行超分辨率处理,所述目标图像超分辨率网络中至少包括所述第一模块,所述目标图像超分辨率网络为计算量小于第一预设阈值且图像超分辨率精度大于第二预设阈值的网络。
2.如权利要求1所述的搜索方法,其特征在于,所述降维操作包括池化操作和步长为Q的卷积操作中的至少一项,Q为大于1的正整数。
3.如权利要求1或2所述的搜索方法,其特征在于,所述第一模块处理后的特征图为经过升维操作后的特征图,所述升维操作是指将经过所述降维处理后的特征图的尺度恢复至所述第一尺度,所述残差连接操作是指将所述第一输入特征图与经过所述升维操作处理后的特征图进行特征相加处理。
4.如权利要求1至3中任一项所述的搜索方法,其特征在于,所述第一模块还用于对所述第一输入特征图进行密集连接操作,其中,所述密集连接操作是指将i-1个卷积层中各个卷积层的输出特征图以及所述第一输入特征图进行特征拼接作为第i个卷积层的输入特征图,i为大于1的正整数。
5.如权利要求4所述的搜索方法,其特征在于,所述密集连接操作为循环的密集连接操作,所述循环的密集连接操作是指对经过通道压缩处理后的所述第一输入特征图进行特征拼接处理。
6.如权利要求1至5中任一项所述的搜索方法,其特征在于,所述第一模块还用于重排操作,所述重排操作是指将所述第一输入特征图的多个第一通道特征按照预设规则进行合并处理生成一个第二通道特征,其中,所述第二通道特征的分辨率高于所述第一通道特征的分辨率。
7.根据权利要求4至6中任一项所述的搜索方法,其特征在于,所述基本模块还包括第二模块和/或第三模块,其中,所述第二模块用于对第二输入特征图进行通道压缩操作、所述残差连接操作以及所述密集连接操作,所述通道压缩操作是指对所述第二输入特征图进行卷积核为1×1的卷积操作;所述第三模块用于对第三输入特征图进行通道交换操作、所述残差连接操作以及所述密集连接操作,所述第三输入特征图中包括M个子特征图,所述M子特征图中每个子特征图包括至少两个相邻的通道特征,所述通道交换处理是指将所述M个子特征图对应的至少两个相邻的通道特征进行重新排序,使得所述M个子特征图中不同子特征图对应的通道特征相邻,M为大于1的整数,所述第一输入特征图、所述第二输入特征图以及所述第三输入特征图对应相同的图像。
8.如权利要求1至7中任一项所述的搜索方法,其特征在于,所述在所述搜索空间中进行图像超分辨率网络结构搜索确定目标图像超分辨率网络,包括:
在所述搜索空间中通过进化算法进行图像超分辨率网络结构搜索确定第一图像超分辨率网络;
通过多级加权联合损失函数对所述第一图像超分辨率网络进行反向传播迭代训练确定所述目标图像超分辨率网络,其中,所述多级加权联合损失函数是根据所述第一图像超分辨率网络中的每个所述基本单元输出的特征图对应的预测超分辨率图像与样本超分辨率图像之间的损失确定的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910695706.7/1.html,转载请声明来源钻瓜专利网。