[发明专利]域适应图像分类网络的训练方法、系统、设备及存储介质有效
申请号: | 202210258343.2 | 申请日: | 2022-03-16 |
公开(公告)号: | CN114332568B | 公开(公告)日: | 2022-07-15 |
发明(设计)人: | 王子磊;李俊杰 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/764;G06V10/82;G06K9/62;G06N3/04 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;韩珂 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 适应 图像 分类 网络 训练 方法 系统 设备 存储 介质 | ||
本发明公开了一种域适应图像分类网络的训练方法、系统、设备及存储介质,引入对比学习将相同语义的特征聚类,解决域适应图像分类任务在目标域标签不足的问题;本发明将特征对比学习改进为概率对比学习,通过在概率空间进行对比学习,减小聚类后的同语义特征与类权重之间的距离,提高分类的准确率;并且,仅添加了一个对比学习的损失(即总的概率对比损失),并未添加复杂的附加模块,参数量与之前的方法相比没有增加。总体来说,本发明在不添加其他附加模块的情况下提升模型整体性能,能够获得更精确的图像分类结果。
技术领域
本发明涉及图像分类技术领域,尤其涉及一种域适应图像分类网络的训练方法、系统、设备及存储介质。
背景技术
近年来,以深度神经网络为基础的全监督学习策略已在图像分类领域取得显著成就。这类全监督学习算法需要训练数据与测试数据分布相同。然而在实际应用中,训练(源域)数据与测试(目标域)数据往往存在差异。域适应方法旨在将源域知识迁移到目标域,以解决上述问题。
一般而言,分类模型需要在尽可能的聚类相同的语义特征的同时使其在特征空间中分布于分类权重附近。对于无监督及半监督域适应任务,由于目标数据缺乏监督信息,目标域特征难以按照语义聚类。而基于InfoNCE损失的实例对比学习方法能够有效的在语义层面上聚集相似的特征,同时具有良好的可迁移性。但是,直接应用基于InfoNCE损失的实例对比学习方法的增益非常有限,在一些具有强一致性约束的模型上甚至无明显增益。究其原因,因为之前的对比学习方法,普遍使用分类器之前的特征计算对比损失,分类权重没有参与到优化过程中,这类对比学习方法无法使特征分布于分类权重周围。因此,训练效果不佳,影响分类准确率。
在公开号为CN113673555A的中国专利申请《一种基于记忆体的无监督域适应图片分类方法》中,使用神经网络模型提取数据集中图片的特征,使用聚类算法构建每一类特征的类内结构,并将其存储到对应域的辅助记忆体中,以特征分布相似性作为约束条件迭代地训练模型。在公开号为CN113610105A的中国专利申请《基于动态加权学习和元学习的无监督域适应图像分类方法》中,将样本加权后构造动态平衡因子,分别计算源域和目标域数据分布对齐程度和可判别性并进行归一化处理,再使用元学习计算域对齐损失更新网络参数和分类进行模型优化。在公开号为CN113469273A的中国专利申请《基于双向生成及中间域对齐的无监督域适应图像分类方法》中,使用双向生成网络生成伪目标域图像和伪源域图像,生成过程中由任务网络提供监督信息提高生成图像的质量,完成训练后将伪图像输入分类网络,在此过程中不断缩减伪源域与源域图像的分布差异,从而提高分类网络的准确性。然而上述方法往往是通过添加额外的模块来提高分类模型的准确率,因此模型的参数量较大,训练时间较长,训练效率也受到一定限制。
发明内容
本发明的目的是提供一种域适应图像分类网络的训练方法、系统、设备及存储介质,可以提升训练效率,提高图像分类的准确率。
本发明的目的是通过以下技术方案实现的:
一种域适应图像分类网络的训练方法,包括:
获取源域图像集合,并根据训练方式获取目标域图像集合;对目标域图像集合中每一未标注的目标域图像进行两种不同的图像变换,获得的第一变换图像与第二变换图像构成一个目标域图像对,由所述源域图像集合、目标域图像集合以及所有目标域图像对构成训练数据集;
将所述训练数据集输入至所述域适应图像分类网络;
根据训练方式以及设定的损失类别,利用所述域适应图像分类网络特征提取器的输出、分类器的输出与softmax层的输出中的一种或多种计算相应的类别损失,构成所述域适应图像分类网络的基线损失;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210258343.2/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序