[发明专利]基于深度无监督密集卷积网络的红外和可见光图像融合方法在审
申请号: | 202011233636.2 | 申请日: | 2020-11-06 |
公开(公告)号: | CN112288668A | 公开(公告)日: | 2021-01-29 |
发明(设计)人: | 王健;刘洁;秦春霞;杨珂;魏江;冷月香;刘少华 | 申请(专利权)人: | 西北工业大学;西安爱生技术集团公司 |
主分类号: | G06T5/50 | 分类号: | G06T5/50;G06K9/62;G06N3/04 |
代理公司: | 西北工业大学专利中心 61204 | 代理人: | 刘新琼 |
地址: | 710072 *** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 监督 密集 卷积 网络 红外 可见光 图像 融合 方法 | ||
1.一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤如下:
步骤1:输入待融合的红外图像A与可见光图像B;
步骤2:将红外图像A依次输入四个卷积层C1、DC1、DC2、DC3进行特征提取,将可见光图像B依次输入四个卷积层C1、DC1、DC2、DC3进行特征提取,每个卷积层的卷积核的大小均为3×3,步长为1,卷积层的特征图输出通道为16,每个卷积层的输入都为前面所有卷积层输出的级联;
步骤3:采用L1范数加法策略来融合不同输入图像的特征,用以获得最终的融合特征,即:
其中m∈{1,2,...,M},M=64代表特征图的数量,和表示输入红外图像A与可见光图像B中获得的特征图,fm表示融合后的特征图,(x,y)表示待融合和融合后的特征图对应位置,wk(x,y),(k=1,2)表示权重,其计算公式为:
步骤4:将步骤3输出的融合后的特征图fm作为输入,依次输入卷积层C2、C3、C4、C5,每一个卷积层的卷积核的大小均为3×3,步长为1,前三层的卷积层非线性激活函数为泄漏整流行函数,最后一层非线性激活函数为Sigmoid函数,通过上述卷积和激活可以重建输出最终的融合图像。
2.根据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤2中所述的C1为1×16。
3.根据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤2中所述的DC1为16×16。
4.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤2中所述的DC2为32×16。
5.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤2中所述的DC3为48×16。
6.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤4中所述的C2为64×64。
7.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤4中所述的C3为64×32。
8.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤4中所述的C4为32×16。
9.据权利要求1所述的一种基于深度无监督密集卷积网络的红外和可见光图像融合方法,其特征在于步骤4中所述的C5为16×1。
10.一种用于权利要求1所述的基于深度无监督密集卷积网络的红外和可见光图像融合方法的损失函数,其特征在于基于结构相似性和图像质量:
(1)结构相似度SSIM,用于计算两幅图像在对应位置的不同滑动窗口的结构相似度,假设输入图像为I,输出图像为O,则SSIM可定义为:
其中C1、C2为常数,设置为2×10-6,μI表示输入图像I中的滑动窗口的均值,μO表示输出图O中的滑动窗口的均值,表示μI的方差,σIO表示μI与μO之间的协方差,SSIM取值范围为[-1,1];因此,图像的结构相似性损失定义为:
LSSIM=1-SSIM(I,O) (4)
(2)邻域内的图像质量测量,根据两幅输入图像的结构相似性作为匹配的指标,当输入图像A的标准差std(A|w)大于输入图像B的对应标准差std(B|w),则表明输入图像A更匹配,因此图像质量的表达式为:
其中O表示输出图像,w表示滑动窗口,大小设置为7×7,滑动窗口以一个像素为步长从左到右、从上到下依次滑动;
(3)基于结构相似性和图像质量的损失函数,在密集卷积网络训练采用融合性能评价度量是通过上述结构相似度SSIM和邻域内的图像质量Scope(A,B,O)测量两部分因素,得到基于结构相似性和图像质量的损失函数:
其中,N表示图像中滑动窗口的总数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西北工业大学;西安爱生技术集团公司,未经西北工业大学;西安爱生技术集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011233636.2/1.html,转载请声明来源钻瓜专利网。