[发明专利]基于元学习和注意力的小样本城市遥感影像信息提取方法在审
申请号: | 202111654351.0 | 申请日: | 2021-12-30 |
公开(公告)号: | CN114283345A | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 邵振峰;庄庆威 | 申请(专利权)人: | 武汉大学 |
主分类号: | G06V20/13 | 分类号: | G06V20/13;G06V10/764;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 武汉科皓知识产权代理事务所(特殊普通合伙) 42222 | 代理人: | 严彦 |
地址: | 430072 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 学习 注意力 样本 城市 遥感 影像 信息 提取 方法 | ||
1.一种基于元学习和注意力的小样本城市遥感影像信息提取方法,其特征在于:包括以下步骤,
步骤1,构建小样本城市遥感信息预训练模型,在预训练阶段,通过对小样本集进行预训练网络学习,充分学习已有样本的特征信息,得到小样本集的初始特征参数和深层卷积网络主干;
步骤2,构建“时空谱角”注意力模型,用于使网络在训练过程中关注重要的“时空谱角”信息,抑制噪声和冗余信息,提高模型的分类性能;
步骤3,建立元学习与注意力协同机制并实现小样本城市遥感信息提取,包括将“时空谱角”注意力模型得到的特征参量和初始的特征参量进行并行关联学习,引入正则化器使交叉熵和结构风险最小化,实现对小样本信息的充分挖掘。
2.根据权利要求1所述基于元学习和注意力的小样本城市遥感影像信息提取方法,其特征在于:步骤1中,所述小样本城市遥感信息预训练模型是一个由卷积层、池化层和全连接层组成的网络结构,有5段卷积网络,每一段内有2个或3个卷积层,每段结尾连接一个最大池化层用于缩小图片尺寸;各段内部的卷积核数量一样,越靠近全连接层卷积核数量越多。
3.根据权利要求2所述基于元学习和注意力的小样本城市遥感影像信息提取方法,其特征在于:所述小样本城市遥感信息预训练模型中的卷积网络实现如下,
第一段卷积网络由两个卷积层和一个最大池化层组成,输出通道数为64,输出的尺寸为112×112×64;
第二段卷积网络由两个卷积层和一个最大池化层组成,输出通道数为128,输出尺寸为56×56×128;
第三段卷积网络由三个卷积层和一个最大池化层组成,输出通道数为256,输出尺寸为28×28×256;
第四段卷积网络由三个卷积层和一个最大池化层组成,输出通道数为512,输出尺寸为14×14×512;
第五段卷积网络由三个卷积层和一个最大池化层组成,输出通道数为512,输出尺寸为7×7×512;
将第五段卷积网络输出的结果扁平化表示为一维向量,然后输入第一个全连接层相应相应Dropout层,再输入第二个全连接层及相应Dropout层;最后输入第三个全连接层,第三个全连接层输出节点为1000,使用softmax函数处理得到分类输出概率,同时得到分类结果。
4.根据权利要求1所述基于元学习和注意力的小样本城市遥感影像信息提取方法,其特征在于:在“时空谱角”注意力模型中,对于三维输入X,首先经过沿着通道维的最大池化和平均池化得到特征压缩后的两个全局特征描述;然后,通过hard-sigmoid形式的门机制得到时间特征、空间特征、光谱特征和角度特征的权重XSS∈(0,1);最后,将原始输入X与权重XSS相乘;
通过网络在训练过程中不断学习,对于重要的“时空谱角”信息,对应的权重接近于1;对于不重要或者具有负面影响的噪声和冗余信息,对应的权重接近于0。
5.根据权利要求1或2或3或4所述基于元学习和注意力的小样本城市遥感影像信息提取方法,其特征在于:“时空谱角”特征向量根据以下公式计算得到,
式中,k′i表示第i类的类别最终的特征中心,ki代表初始时第i类的类别特征中心,代表梯度,表示按梯度优化后的第i类的类别特征中心,j是无标记样本数量,l是标记样本数量,ej,l是有标记样本和无标记样本相对应的特征,sum()表示括号内数值的和,vi是第i类的概率分布特征中心,vi,j由j个第i类样本的类别概率向量更新得到的第i类的概率分布特征中心,n表示总的样本数量,C为数据集中的类别个数,e为初始特征向量,p为“时空谱角”特征向量,Pj,l是第l类有标记样本和第j类无标记样本对应的预测概率,η表示更新系数,1[y=i]表示指示函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉大学,未经武汉大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111654351.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:金属卷钢面漆用聚酯树脂及其制备方法
- 下一篇:一种大流量可调双越前比例继动阀