[发明专利]基于多源深度残差网络的深度图像超分辨率方法及装置在审
申请号: | 201911349902.5 | 申请日: | 2019-12-24 |
公开(公告)号: | CN111105354A | 公开(公告)日: | 2020-05-05 |
发明(设计)人: | 卢涛;郝晓慧;张彦铎;胡记伟;魏明;许若波;陈冲;周强;郎秀娟;王宇;魏博识;王彬;吴志豪 | 申请(专利权)人: | 武汉工程大学;武汉烽火技术服务有限公司 |
主分类号: | G06T3/40 | 分类号: | G06T3/40;G06N3/04;G06N3/08 |
代理公司: | 湖北武汉永嘉专利代理有限公司 42102 | 代理人: | 张宇 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 网络 图像 分辨率 方法 装置 | ||
1.一种基于多源深度残差网络的深度图像超分辨率方法,其特征在于,包括:
(1)分别将高分辨率深度图像和高分辨率彩色图像下采样至对应的目标低分辨率深度图像和目标低分辨率彩色图像,将所述高分辨率深度图像与对应的所述目标低分辨率深度图像输入深度图像超分辨率网络进行训练,以提取所述目标低分辨率深度图像的残差信息,将所述高分辨率彩色图像与对应的所述目标低分辨率彩色图像输入彩色图像超分辨率网络进行训练,以提取所述目标低分辨率彩色图像的残差信息;
(2)将所述目标低分辨率深度图像的残差信息和所述目标低分辨率彩色图像的残差信息进行拼接后,在残差融合网络进行融合,得到融合后的残差信息;
(3)利用所述融合后的残差信息和所述目标低分辨率深度图像来重建高分辨率深度图像,得到最终的高分辨率深度图像。
2.根据权利要求1所述的方法,其特征在于,步骤(1)包括:
(1.1)分别将高分辨率深度图像和高分辨率彩色图像下采样至对应的目标低分辨率深度图像和目标低分辨率彩色图像;
(1.2)将所述高分辨率深度图像分为若干高分辨率深度图像块,将对应的所述目标低分辨率深度图像分为若干低分辨率深度图像块,将所述高分辨率彩色图像分为若干高分辨率彩色图像块,将对应的所述目标低分辨率彩色图像分为若干低分辨率彩色图像块;
(1.3)将各高分辨率深度图像块与对应的各低分辨率深度图像块输入深度图像超分辨率网络进行训练,以提取各低分辨率深度图像块的残差信息,将各高分辨率彩色图像块与对应的低分辨率彩色图像块输入彩色图像超分辨率网络进行训练,以提取各低分辨率彩色图像块的残差信息;
(1.4)将各低分辨率深度图像块的残差信息进行融合得到所述目标低分辨率深度图像的残差信息,将各低分辨率彩色图像块的残差信息进行融合得到所述目标低分辨率彩色图像的残差信息。
3.根据权利要求2所述的方法,其特征在于,由提取第j个低分辨率彩色图像块的残差信息,由提取第j个低分辨率深度图像块的残差信息,其中,表示彩色图像超分辨率网络第20层的权重,表示深度图像超分辨率网络第20层的权重,表示彩色图像超分辨率网络第19层产生的特征图,表示深度图像超分辨率网络第19层产生的特征图,表示彩色图像超分辨率网络第20层的偏置项,表示深度图像超分辨率网络第20层的偏置项。
4.根据权利要求1至3任意一项所述的方法,其特征在于,步骤(2)包括:
(2.1)由Concat函数将所述目标低分辨率深度图像的残差信息和所述目标低分辨率彩色图像的残差信息进行拼接得到拼接后的残差图;
(2.2)在残差融合网络中,将所述拼接后的残差图中不同通道的每个像素进行组合,得到融合后的残差信息。
5.根据权利要求4所述的方法,其特征在于,由得到融合后的残差信息,其中,fCa(XC,XD)表示拼接后的残差图,表示残差融合网络中第2层的权重矩阵,为残差融合网络中第1层生成的特征图,为残差融合网络中第二层的偏置项,XC表示与高分辨率彩色图像大小相同的低分辨率彩色图像,XD表示与高分辨率深度图像大小相同的低分辨率深度图像。
6.根据权利要求5所述的方法,其特征在于,步骤(3)包括:
由Y(XD)=RF(fCa(XC,XD))+XD得到最终的高分辨率深度图像。
7.根据权利要求3所述的方法,其特征在于,所述彩色图像超分辨率网络的损失函数为:其中,为第j个高分辨率彩色图像块,为第j个低分辨率彩色图像块。
8.根据权利要求7所述的方法,其特征在于,所述深度图像超分辨率网络的损失函数为:其中,为第j个高分辨率深度图像块,为第j个低分辨率深度图像块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉工程大学;武汉烽火技术服务有限公司,未经武汉工程大学;武汉烽火技术服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911349902.5/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序