[发明专利]面向小样本图像分类的任务相关度量学习方法及装置有效
申请号: | 202210479781.1 | 申请日: | 2022-05-05 |
公开(公告)号: | CN114943859B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 李晓旭;杨世丞;刘俊;燕锦涛;安文娟;张文斌;李睿凡;马占宇;陶剑 | 申请(专利权)人: | 兰州理工大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06V10/82;G06N3/0464 |
代理公司: | 北京挺立专利事务所(普通合伙) 11265 | 代理人: | 高福勇 |
地址: | 730050 甘肃*** | 国省代码: | 甘肃;62 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 样本 图像 分类 任务 相关 度量 学习方法 装置 | ||
1.一种面向小样本图像分类的任务相关度量学习方法,其特征在于,包括以下步骤:
S1、对数据进行预处理,其中数据包括训练集Dtrain和测试集Dtest,训练集Dtrain和测试集Dtest的类别空间互斥;
S2、构建面向小样本图像分类的任务相关度量学习模型,模型由嵌入模块和任务相关度量模块组成;其中,嵌入模块包含四个卷积块,每个卷积块均包括卷积层、池化层以及非线性激活函数;任务相关度量模块由注意力模块和余弦度量模块组成;
S3、将训练集数据送入面向小样本图像分类的任务相关度量学习模型进行训练,求解模型参数;
步骤S3具体包括:
S301、对于Dtrain中的一个任务Ti,首先将所有支持样本和查询样本输入嵌入模块中;
S302、利用嵌入模块中的卷积神经网络,将支持样本依次经过卷积层、池化层和激活层,最终提取图像的特征
S303、将支持样本特征Fs∈RHW×C分别作为V和K输入到任务相关度量模块中;
S304、将查询样本中特征Fq∈RHW×C,将其作为Q输入到任务相关度量模块中,其中H和W代表特征空间的大小,C代表特征的通道数;
S305、将V,K,Q分别经过三个权重不同的线性层将提取出来的特征投影到低维,得到转换后特征,表示为公式如下:
在公式(1)中,Fs代表支持样本特征,Fq代表查询样本特征,Wv,Wk,Wq代表三个权重不同的线性层,分别代表Fs经过Wv、Fs经过Wk、Fq经过Wq所得到的转化后的特征;公式(1)表示将V,K,Q经过Wv,Wk,Wq三个权重不同的线性层投影到低维;
S306、利用公式(2)计算所有支持样本的预测概率,公式如下:
在公式(2)中,代表矩阵的对应元素相乘,代表经过公式(1)转化后的特征,C代表特征的通道数,softmax代表softmax激活函数,Fa代表经过公式(2)后得到的加权特征;公式(2)表示求得加权注意力权重后的特征;
S307、将Fa再经过一个线性层后得到任务自适应的支持样本特征FA∈RHW×C;
S308、将查询样本特征Q和任务自适应的支持样本特征FA共同输入到余弦度量模块中,度量模块采用余弦分类器,用于查询样本的分类;余弦度量模块运算公式如下:
在公式(3)中,Fq代表查询样本特征,FA代表任务自适应的支持样本特征,代表矩阵的对应元素相乘,||A||表示求矩阵A的二范数,F代表求得的余弦相似度矩阵,公式(3)表示求出任务自适应的支持样本特征FA和查询样本特征Fq之间的余弦相似度矩阵;
S309、使用交叉熵损失函数计算支持样本与查询样本的分类预测损失l0,将l0作为整个网络的总损失loss;交叉熵损失函数公式如下:
在公式(4)中,n代表种类数量,y代表类标签,若类别是i,则yi=1且其他位为0,pi代表类别是i的概率,其值为公式(3)算出来的F矩阵中的对应位置的元素值,loss代表计算后得到的当前损失值,公式(4)表示根据交叉熵损失函数,计算当前的网络模型情况下的损失值;
S310、根据求得的loss使用mini-batch和Adam优化器更新嵌入模块和任务相关度量模型的可学习参数,重复训练多个任务,直到网络收敛;
S4、利用训练后的面向小样本图像分类的任务相关度量学习模型对新类任务进行预测,测评模型的性能。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于兰州理工大学,未经兰州理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210479781.1/1.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序