[发明专利]一种面向环境变化的无监督迁移学习图像分类方法在审
申请号: | 202210461879.4 | 申请日: | 2022-04-28 |
公开(公告)号: | CN115035330A | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 黎铭;孙辉;周志华 | 申请(专利权)人: | 南京大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/82;G06N3/04;G06K9/62 |
代理公司: | 南京乐羽知行专利代理事务所(普通合伙) 32326 | 代理人: | 李玉平 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 环境 变化 监督 迁移 学习 图像 分类 方法 | ||
1.一种面向环境变化的无监督迁移学习图像分类方法,其特征在于,包括如下步骤:
步骤(1)在应用环境中获得新的待分类图片样本;
步骤(2)判断是否已存在完成面向应用环境的图像分类模型,如果不存在,转入步骤(3),从学习环境到应用环境进行迁移学习构建图像分类模型;如果存在,转入步骤(13);
步骤(3)如果模型更新迭代次数达到最大迭代次数,转入步骤(13);如果没有转入步骤(4);
步骤(4)从学习环境中获取有标记的图像数据作为监督样本,从应用环境中获取无标记的图像数据作为无监督样本,构建训练集;
步骤(5)初始化图像分类模型参数,模型训练过程中的超参数,以及若干个基于数据变换的自监督任务;
步骤(6)用残差神经网络接上一层全连接瓶颈网络提取图片数据的特征;
步骤(7)用伪标签生成器对无标签样本进行预测,并筛选出一些置信度高的伪标签;
步骤(8)计算有标签样本在伪标签生成器上的分类损失,在特征空间中计算学习环境和应用环境数据分布偏移损失;所述有标签样本包括伪标签样本;
步骤(9)将有标签样本的原始标签分别与当前样本的不同自监督任务标签进行组合,生成不同的二维联合标签。相应地用多层全连接神经网络构建多个联合分类器输出二维联合概率来预测所述联合标签,用联合标签计算所有联合分类器的平均分类损失;所述有标签样本包括伪标签样本;
步骤(10)在每个联合分类器的输出的二维联合概率中,对自监督任务标签分布的边际概率进行积分,得到每个联合分类器对目标任务的不同概念标签;
步骤(11)在所有应用环境样本上,计算每个联合分类器给出的概念标签间的一致性损失,以此对齐所述概念标签;
步骤(12)累加所有损失,用梯度反向传播的方式更新模型参数;迭代次数加一;转入步骤(3);
步骤(13)根据每个基于数据变换的自监督任务类型,采用相应的数据变换集合对数据进行变换;
步骤(14)将经过不同的数据变换集合变换的数据输入到相应的自监督任务所对应的联合分类器中,得到对目标任务标签和相应的自监督任务标签的二维联合概率预测;
步骤(15)在每个联合分类器输出的二维联合概率分布中,对自监督所对应的边际分布进行积分,得到每个联合分类器对目标任务不同的概念标签;
步骤(16)将所有概念标签的均值作为概念标签的一致部分对待分类图片的标签进行预测。
2.根据权利要求1所述的面向环境变化的无监督迁移学习图像分类方法,其特征在于,设:训练数据的输入空间是跨环境共享的隐特征空间为目标任务标记空间,即分类任务的类别空间为第i个帮助图像分类模型训练的自监督辅助任务的标记空间为跨环境共享的特征提取器以及每个自监督任务都有一个联合分类器,第i个联合分类器写作将写作Ci,表示特征提取器接上第i个联合分类器;此外,每个自监督任务都对应一个数据变换集合,第i个联合分类器对应的数据变换集合为
3.根据权利要求1所述的面向环境变化的无监督迁移学习图像分类方法,其特征在于,所述步骤(4)中,先从学习环境中收集包含ns个有标签样本的源域数据集表示源域的第i张图片,表示源域的第i张图片的标签,从应用环境中收集有nt个无标签样本的目标域数据集表示目标域的第i张图片。
4.根据权利要求2所述的面向环境变化的无监督迁移学习图像分类方法,其特征在于,所述步骤(5)中,确定p个基于数据变换的自监督任务和每个自监督任务所对应的数据变换集合第i个数据变换集合有个数据变换函数及对应的自监督标签空间
5.根据权利要求2所述的面向环境变化的无监督迁移学习图像分类方法,其特征在于,所述步骤(7)中,在模型中有一个伪标签生成器将写作CPL,表示特征提取器接上伪标签生成器;先用伪标签生成器来给应用环境中的样本生成一些伪标签:其中表示目标域中的第i张图片,表示目标域中第i张图片的伪标签;然后通过伪标签选择函数:
来选择出应用环境样本中伪标签置信度高的样本:其中τ表示置信度阈值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210461879.4/1.html,转载请声明来源钻瓜专利网。