[发明专利]一种基于元学习的自监督域适应方法

说明书

本发明公开了一种基于元学习的自监督域适应方法，将目标域图像重建作为域适应过程中的自监督任务，监督信息即为目标域图像本身，不需要额外的目标域图像标注信息，节省了大量人工标注成本；此外，目标域图像的重建过程能够使网络学习到目标域图像中更丰富的高层语义信息，使得网络能够利用目标域数据的内在特征来辅助网络将源域数据中学习到的知识向目标域迁移，从而提升域适应方法的性能。通过将元学习策略引入自监督域适应中，使得目标域自监督任务和源域分类等特定任务对网络参数的更新方向趋于一致，使得网络能够更好地提取域不变特征，减少了域适应任务和特定任务对网络参数的更新方向不一致造成的负迁移问题，提升了域适应性能。

技术领域

本发明属于计算机视觉和图像处理领域，具体地，涉及一种基于元学习和图像重建的无监督域适应方法，可以使源域图像分类任务和目标域图像重建任务对特征提取网络在参数更新方向上趋于一致，即利用目标域图像中物体的空间关系、光照等信息使源域图像类别信息对特征提取网络的参数更新方向趋向利用目标域图像中物体的空间关系、光照等信息对特征提取网络的参数更新方向，从而使特征提取网络得到的特征为域不变特征，实现源域和目标域的域适应。

背景技术

近些年来，基于深度神经网络的有监督学习已在许多方面有了成熟的应用，被广泛地应用于图像分类、目标检测、语义分割、自然语言处理等领域，极大地促进了人工智能技术与现实生活的结合。然而，许多有监督学习方法往往假设训练集样本和测试集样本的概率分布服从同一分布，此外，有监督学习方式为了使网络具有较好的泛化性能，避免过拟合问题，在训练阶段往往需要大量有标注的训练样本。然而随着大数据时代的到来，数据规模日益增大，不同数据集合间统计特性差异、数据标注的人工成本较高等问题逐渐显现。为了解决上述问题，无监督域适应方法被广泛研究。无监督域适应是一种解决源域和目标域之间分布差异的方法，其通过学习有标签的源域数据中的某些可以泛化的知识，并将其应用于无标签的目标域数据上的任务来提高网络在目标域上的表现。

目前，很多无监督域适应方法多聚焦于采用基于距离度量或基于对抗学习等方式来对齐源域数据和目标域数据的特征概率分布，从而减小域间差异，使网络能够学习到域不变特征空间。但是这些方法仅从源域数据和目标域数据的整体上进行分布对齐，没有关注目标域数据的内在特征对域适应过程中知识迁移的影响，因此，基于图像重建等的自监督域适应方法通过在无标签的目标域数据上设置图像重建、图像旋转角度预测、图像修复等自监督任务来协同有标签的源域数据对网络进行联合训练，即通过对目标域数据内在特征的挖掘来辅助网络迁移从源域数据中学习到的知识到目标域，此外，由于基于图像重建的方法在域适应提取可迁移特征的同时保留了数据的完整性，保证目标域数据中对提升特定任务性能的信息不被破坏，并且在对源域数据的知识迁移过程中尽可能保留了目标域数据的原始分布，因此能够更好地将源域数据中的学习到的知识应用在目标域任务中。然而，在域适应过程中，现有的很多无监督域适应方法往往将特征提取网络的参数分别通过自监督任务和图像分类等特定任务进行简单地更新，没有考虑两类任务对特征提取网络参数的更新方向是否一致，可能会使得自监督任务对图像分类等特定任务的特征学习造成负面影响，通过元学习可以将自监督任务和图像分类等特定任务分别作为训练器和测试器，通过训练器中的损失函数对测试器网络进行参数更新，从而迫使两类任务对网络的参数更新方向趋向一致。

发明内容

针对现有技术中存在的不足，本发明提出一种基于元学习(Meta learning)的自监督域适应方法。

一种基于元学习的自监督域适应方法，包括以下步骤：

步骤1，设置训练器和测试器：

将目标域样本的重建过程作为元学习中的训练器，将源域样本的分类过程作为元学习中的测试器。

步骤2，利用目标域样本进行图像重建任务并计算重建损失：

将无标签的目标域样本输入特征提取网络得到目标域样本特征，然后将目标域样本特征输入图像重建网络进行图像重建并计算重建损失。

步骤3，对特征提取网络进行参数更新：