[发明专利]一种基于对抗学习的多源域适应迁移方法及系统有效
申请号: | 201711468680.X | 申请日: | 2017-12-29 |
公开(公告)号: | CN108256561B | 公开(公告)日: | 2020-06-16 |
发明(设计)人: | 林倞;陈子良;王可泽;许瑞嘉 | 申请(专利权)人: | 中山大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 广州容大专利代理事务所(普通合伙) 44326 | 代理人: | 刘新年 |
地址: | 510000 广东省*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 对抗 学习 多源域 适应 迁移 方法 系统 | ||
1.一种基于对抗学习的多源域适应迁移方法,包括如下步骤:
步骤一,获取多个源域的带标记的源域数据以及无标记的目标域数据,并使用各源域的源域数据对目标模型的表示网络和多路分类器进行预训练及初始化,各源域数据包括图像数据和对应标签,所述目标域数据包括图像数据;所述步骤一还包括,
输入带标记的N个源域数据集以及输入无标记的目标域数据集,
使用所有的源域数据集对领域无关的表示网络F和领域相关的多路分类器C进行目标模型的预训练,所述预训练的步骤具体为根据如下优化目标
更新目标模型中表示网络F和多路分类器C的参数,其中表示多路分类的损失函数,表示具体选取的损失函数类型,表示第sj路分类器,E表示所有样本损失值的期望,F(x)表示图像x经过表示网络F后的特征编码;
步骤二,固定当前多路分类器的参数,引入目标域数据,使用所述多个源域的源域数据与目标域数据进行多路对抗,更新所述目标模型的表示网络和多路判别器;
步骤三,基于每一路判别器的损失值计算对应源域与目标域之间的对抗分数;
步骤四,基于各源域的多路分类器和对抗分数对目标域的样本进行分类,赋予伪标签;
步骤五,选取高置信度的目标域伪样本微调所述目标模型的表示网络和多路分类器,获取在目标域上更加有效可分的特征编码;
步骤六,返回步骤二,进行步骤二-五,直至模型收敛或达到最大迭代次数时停止训练。
2.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于,步骤二进一步包括:
使用表示网络对多源域和目标域的图像进行特征提取;
将每一源域和目标域分别组成一对,输入多路判别器网络D进行判定训练,更新目标模型的表示网络和多路判别器。
3.如权利要求2所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:所述多路判别器网络D的更新策略为尽可能区分开输入特征是来自源域还是目标域,表示网络的更新策略是尽可能混淆特征,使得判别器网络无法区分输入特征是来自源域还是目标域。
4.如权利要求3所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤二中,更新多路判别器和表示网络的损失函数使用其最小二乘表示进行优化。
5.如权利要求4所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤三中,累加每一路判别器的损失值作为对应源域与目标域的对抗分数。
6.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤四中,根据步骤三获得的对抗分数以及目标模型的表示网络F和多路分类器C对目标域的样本进行分类,并赋予伪标签。
7.如权利要求1所述的一种基于对抗学习的多源域适应迁移方法,其特征在于:于步骤五中,在步骤四的基础上选取置信度大于设定阈值的样本组成目标域伪样本集合,并对目标模型的多路分类器进行微调,以获取在目标域上更加有效可分的特征编码。
8.一种基于对抗学习的多源域适应迁移系统,包括:
预训练单元,用于获取多个源域的带标记的源域数据以及无标记的目标域数据,并使用各源域的源域数据对化目标模型的表示网络和多路分类器进行预训练及初始化,各源域数据包括图像数据和对应标签,所述目标域数据包括图像数据,所述预训练的步骤具体为根据如下优化目标:
更新目标模型中表示网络F和多路分类器C的参数,其中表示多路分类的损失函数,表示具体选取的损失函数类型,表示第sj路分类器,E表示所有样本损失值的期望,F(x)表示图像x经过表示网络F后的特征编码
多路对抗单元,用于通过固定当前多路分类器的参数,引入目标域数据,使用所述多个源域的源域数据与目标域数据进行多路对抗,更新所述目标模型的表示网络和多路判别器;
对抗分数计算单元,用于基于每一路判别器的损失值计算对应源域与目标域之间的对抗分数;
分类单元,用于基于各源域的多路分类器和对抗分数对目标域的样本进行分类,赋予伪标签;
微调单元,用于选取高置信度的目标域伪样本微调所述目标模型的表示网络和多路分类器,获取在目标域上更加有效可分的特征编码,并返回所述多路对抗单元进行训练,直至模型收敛或达到最大迭代次数时停止训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中山大学,未经中山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711468680.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:摄像光学镜头
- 下一篇:天线组件、中框组件及电子设备