[发明专利]一种基于数据筛选的域适应方法和系统

说明书

本发明公开了一种基于数据筛选的域适应方法和系统，属于迁移学习中的域适应技术领域。获取任务一致但数据分布不同的源域和目标域数据集；利用源域数据预训练源域卷积神经网络和源域分类器；构建由源域卷积神经网络、目标域神经网络、判别器组成的对抗网络，并进行基于域分类任务的对抗训练；利用预训练后的源域卷积神经网络提取源域数据特征，利用训练后的判别器对源域数据进行域分类，从分类为源域的数据子集中剔除部分数据，更新源域数据集；使用新的源域数据集和原始的目标域数据集进行域适应操作。本发明利用对抗训练方式拉近了目标域与源域在同一特征空间的特征表示，筛选出更接近目标域数据的源数据进行域适应操作，提升了域适应的性能。

技术领域

本发明属于迁移学习中的域适应技术领域，具体涉及一种基于数据筛选的域适应方法和系统。

背景技术

迁移学习是属于机器学习的一个研究领域，域适应是迁移学习的细分方向。在迁移学习中，当源域和目标域的任务相同而数据分布不同时，这种特殊的迁移学习就叫做域适应。在计算机视觉任务中，域适应是一个常见的需求，因为往往我们有一个具有充足标记的数据集A，而我们却希望在无标记的数据集B上应用我们的模型，这时候就需要无监督域适应的技术来解决这一问题。

无监督域适应的技术被用于处理有标记的源域数据与无标记的目标与样本的域不匹配的问题。基于对抗的方案在特征空间或者像素空间做适应操作；基于矩匹配的方案通过匹配不同阶数的矩来减小分布差异；还有方案基于重建和归一化方案来削弱域差异。这些方案的核心思想是基本一样的，将目标域和源域的数据都投影到一个共同的空间上，在这个空间上，源域和目标域的数据分布差异会显著变小，从而可以当做同一个数据集，因此可以在该空间上训练分类器进行训练。虽然这些方案都举得了一定的成功，但他们的方案都假设目标域和源域的差异不能过大。在域差异较小时，上述方案能够较好的解决问题，然而随着域差异的增大，很难找到一个合适的投影空间，上述方案失效。此时，源域的数据与目标域的数据已经存在较大差异，发明旨在通过数据筛选的方案删除显著偏离目标域的数据从而缩小源域与目标域的差异，从而在较大的域差异情况下增强域适应算法的性能。

发明内容

为了解决现有的域适应方法在域差异较大时会失效的问题，本发明提出了一种基于数据筛选的域适应方法和系统。

本发明是通过下述技术方案实现的：

第一方面，本发明提供了一种基于数据筛选的域适应方法，包括以下步骤：

步骤1：获取任务一致但数据分布不同的有标记源域数据集和无标记目标域数据集；

步骤2，利用有标记源域数据，预训练源域卷积神经网络和源域分类器；

步骤3，利用预训练后的源域卷积神经网络参数初始化目标域神经网络，构建由源域卷积神经网络、目标域神经网络、判别器组成的对抗网络；将所述的源域卷积神经网络参数固定，利用源域数据和目标域数据对对抗网络进行基于域分类的训练，更新目标域神经网络和判别器参数；

步骤4，利用预训练后的源域卷积神经网络对源域数据集做特征提取，利用训练后的判别器对源域数据集进行域分类，从分类为源域的数据子集中剔除部分数据，将分类为目标域的数据子集与剔除后剩余的分类为源域的数据子集合并为新的源域数据集；

步骤5，使用新的源域数据集和原始的目标域数据集进行域适应操作。

进一步的，所述的任务一致是指源域数据集和目标域数据集均属于分类任务且类别一致，数据分布不同是指源域数据集和目标域数据集中相同类别的数据特征存在差异。

进一步的，所述的步骤3包括：

3.1)构建由源域卷积神经网络、目标域神经网络、判别器组成的对抗网络，所述的目标域神经网络的初始化参数为预训练后的源域卷积神经网络参数，将所述的源域卷积神经网络参数固定；