[发明专利]一种基于改进Transformer孪生网络的遥感图像变化检测方法在审
申请号: | 202310043609.6 | 申请日: | 2023-01-29 |
公开(公告)号: | CN115984700A | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 曹凌铭 | 申请(专利权)人: | 河海大学 |
主分类号: | G06V20/10 | 分类号: | G06V20/10;G06V10/44;G06V10/80;G06V10/764;G06V10/82;G06N3/0464;G06N3/048;G06N3/084 |
代理公司: | 北京达友众邦知识产权代理事务所(普通合伙) 11904 | 代理人: | 宋佳伟 |
地址: | 213022 江苏省常*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 改进 transformer 孪生 网络 遥感 图像 变化 检测 方法 | ||
1.一种基于改进Transformer孪生网络的遥感图像变化检测方法,其特征在于:所述方法包括以下步骤:
步骤1:图像预处理,判断两幅不同时期的遥感图像I1、I2的巴氏系数是否小于阈值(取0.7),如果小于阈值则进行步骤2,否则直接进行步骤3;
步骤2:对图像进行直方图匹配处理,得到两幅处理过后图像,记作
步骤3:将I1、I2(或)输入预训练好的CNN主干网络进行并行特征提取得到X1、X2;
步骤4:将X1、X2输入语义标记器,将X1、X2转换为一组紧凑的语义标签T1、T2;
步骤5:拼接语义标签T1、T2,组成含有两幅图像信息的新标签T;
步骤6:将T输入到Transformer编码器中,生成编码后的标签Tnew;
步骤7:对两个语义标签集T1和T2进行全局信息建模,生成包含丰富语义信息的新标签
步骤8:将高级语义信息表示映射到像素空间,获得像素级的特征,即将输入到Transformer解码器中,得到精细化的特征图
步骤9:将特征图输入预测头中,从两个精细化的特征图中计算特征差异图像,然后将它们输入到浅层CNN中,以生成像素级的变化预测M;
步骤10:对预测变化图M进行连通域滤波处理,得到最终结果图Mresult。
2.根据权利要求1所述的一种基于改进Transformer孪生网络的遥感图像变化检测方法,其特征在于:步骤1、2中对图像进行预处理,若两时期图像巴氏系数小于阈值0.7则用第二时期图像作为标准直方图,然后对第一时期图像进行直方图匹配处理,使得两时期图像色彩风格一致,减少因天气、季节变化等外界因素导致色彩风格差异大对模型预测精度的影响。
3.根据权利要求1所述的一种基于改进Transformer孪生网络的遥感图像变化检测方法,其特征在于:步骤3中CNN主干网络提取特征的具体步骤为:
步骤3-1:将I1、I2通过两个卷积核大小为3x3,步长为2的卷积层,下采样4倍,初步提取特征;
步骤3-2:将卷积后的结果通过批归一化层和ReLU激活层让网络具有非线性表达能力;
步骤3-3:将上述输出通过4组Transition和Stage结构,不断增加尺度分支并进行特征融合,得到X1、X2。
4.根据权利要求1所述的一种基于改进Transformer孪生网络的遥感图像变化检测方法,其特征在于:步骤4的语义标记器由卷积、注意力机制构成;具体的:
步骤4-1:对于特征图Xi(i=1,2)上的每一个像素点用1x1卷积得到L组语义信息,每组语义信息代表一种语义概念;
步骤4-2:在HW维度上用softmax函数对每组语义信息计算,得到空间注意力特征图;softmax函数计算公式如下:
其中,zi表示每个输出分量;
步骤4-3:利用计算得到的注意力特征图去计算像素集合Xi的加权平均和,从而得到长度为L(L=4)的token序列T1、T2;Ti(i=1,2)的计算公式如下:
Ti=(Ai)TXi=(σ(φ(Xi,w)))TXi
其中,φ(·)代表卷积核为的1x1卷积,W为可学习的参数,σ(.)是softmax函数,用于将语义信息归一化后得到注意力特征图Ai。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河海大学,未经河海大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310043609.6/1.html,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法