[发明专利]一种双向生成领域自适应数据分类方法在审
申请号: | 202211629963.9 | 申请日: | 2022-12-19 |
公开(公告)号: | CN116150671A | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 康琦;赵俣;姚思雅;李浩军;徐其慧 | 申请(专利权)人: | 同济大学 |
主分类号: | G06F18/241 | 分类号: | G06F18/241;G06F17/15;G06F18/213;G06N20/00 |
代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 蔡彭君 |
地址: | 200092 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 双向 生成 领域 自适应 数据 分类 方法 | ||
本发明涉及一种双向生成领域自适应数据分类方法,方法包括以下步骤:S1、建立双向生成领域自适应框架;S2、针对源域生成器输出的数据和目标域生成器输出的数据分别设置对应分支的差异损失函数;S3、设置一致性损失函数;S4、向训练完成的双向生成领域自适应模型输入实际数据,得到实际分类结果。与现有技术相比,本发明降低源域数据和目标域数据的分布差异,同时利用源域和目标域双分支分别训练两个分类器,并通过一致性损失加以约束,从而实现满足复杂任务要求的领域自适应迁移学习。
技术领域
本发明涉及数据分类领域,尤其是涉及一种双向生成领域自适应数据分类方法。
背景技术
随着迁移学习相关研究的持续发展和不断深入,涌现出了各种领域自适应迁移学习算法用以提升对异构分布数据的迁移性能,这些迁移算法按其采用的思想策略大体上可以归为两大类:
其一是基于统计学习的迁移学习方法。统计学习思想是最早被应用于解决迁移学习问题的方法,以源域数据与目标域数据间的统计学特征为依据,人为设计跨域迁移变换机制。此类方法大多通过分析源域数据与目标域数据间的边缘分布或条件分布差异,利用设计好的域间迁移变换函数对跨域数据的实例特征进行映射,从而降低映射后源域与目标域数据间的分布差异。其中包括基于最大均值化差异(MMD)准则的分布适配法、基于KL散度的实例权重法、基于联合分布差异的联合分布自适应(JDA)算法等代表性方法。
其二是基于生成式对抗网络的迁移学习方法。随着迁移学习应用需求的复杂化,针对特定迁移任务人为设计域迁移变换机制的方法越来越难以满足迁移学习日益广泛的应用场景,因此模型自适应的迁移变换机制成为更高效且普适的选择,利用深度神经网络在模型训练迭代过程中自主地匹配源域数据与目标域数据间的分布特征,提高领域自适应迁移学习方法在不同源域与目标域间的迁移性能。其中具有代表性的即是基于生成式对抗网络(GAN)来实现领域自适应迁移学习,如领域对抗训练网络(DANN)、深度领域混合(DDC)、对抗性领域自适应(ADDA)、条件对抗领域自适应网络(CDAN)等等,因其与深度神经网络在网络结构上具有极高的契合度,已然成为当前实现领域自适应迁移学习的主流方法。
目前两类方法都存在一定的缺陷和不足。基于统计学习的迁移学习方法,虽然能够稳步地降低源域与目标域数据间的分布差异,但针对不同任务需人为设计域间映射变换方法,缺乏普适性,无法满足实际应用场景中的迁移需求;基于生成式对抗网络的迁移学习方法,针对异构分布数据分类模型迁移具有更好的性能表现,但需要耗费更多的计算资源,在针对某些特定领域问题以及源域目标域间分布差异较大的情况时由于方法是单向迁移,无法充分利用目标域数据结构特征。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供的一种双向生成领域自适应数据分类方法,本方法降低源域数据和目标域数据的分布差异,同时利用源域和目标域双分支分别训练两个分类器,并通过一致性损失加以约束,从而实现满足复杂任务要求的领域自适应迁移学习。
本发明的目的可以通过以下技术方案来实现:
一种双向生成领域自适应数据分类方法,方法包括以下步骤:
S1、建立双向生成领域自适应框架,框架包括2个分支,分别为带标签的源域和无标签的目标域,2个分支进行双向的生成对抗和迭代训练,目标域训练过程中,采用伪标签代替目标域标签信息,
其中,源域包括源域生成器和源域分类器,目标域包括目标域生成器和目标域分类器,源域生成器的输入为源域数据,源域分类器的输入为源域生成器输出的数据和源域数据,目标域生成器的输入为目标域数据,目标域分类器的输入为目标域生成器输出的数据和源域生成器输出的数据,分类器输出分类结果;
对源域和目标域分别设置生成式对抗网络的损失函数;
S2、针对源域生成器输出的数据和目标域生成器输出的数据分别设置对应分支的差异损失函数,基于差异损失函数约束源域和目标域间的分布差异,其中,源域的差异损失函数的表达式为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同济大学,未经同济大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211629963.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种精确寻靶系统
- 下一篇:光纤拉丝竖直度检测装置