[发明专利]基于成对样本匹配的迁移学习方法

说明书

本发明属于图像分类和迁移学习技术领域，公开了一种基于成对样本匹配的迁移学习方法，实现了对基于不同域的样本内在关系的挖掘。具体包含以下步骤：（1）数据预处理，（2）基于迁移学习的双链模型构建，（3）实例归一化和批量归一化，（4）计算对比损失和最大均值距离损失。本发明的优点是通过结合实例归一化和批归一化同时进行学习，充分挖掘不同图像的风格和语义关联特性，实现在源域辅助下对少量目标域样本的高效识别。

技术领域

本发明属于图像分类和迁移学习技术领域，涉及一种基于成对样本匹配的迁移学习方法，用于挖掘不同样本的内在的关联性，在图像分类领域，验证了成对样本匹配和迁移学习的有效性。

背景技术

深度卷积神经网络广泛应用于各种机器学习场景，如图像识别、目标检测和语义分割等。不幸的是，现有的许多方法通常只适用于特定的领域，依赖于具有大量标签的数据，如果目标领域的数据不可用或难以标注，传统的机器学习方法效果将显著下降。为了解决这一问题，常用的方法是利用迁移学习和域自适应来学习一个具有区分性和域不变的模型。迁移学习是计算机视觉和模式识别领域的一个极具挑战性的研究热点，并因其在图像识别、目标检测、视频分析等领域的潜在应用受到学术界和工业界的密切关注。

领域适应是迁移学习中最常见的问题之一——源域和目标域具有相同的任务，但分布不同。域适应可以分为三类：有监督域适应、无监督域适应和半监督域适应。无监督域适应不需要对目标数据进行标记，但它期望大量的目标数据达到高精度，尤其是在深度模型中。与此相反的是，有监督域适应需要有标记的目标数据。此外，在目标数据量相同的情况下，有监督域适应的性能一般优于无监督域适应。因此，在目标数据不足的情况下，同时有限的目标数据标注并不困难，有监督域适应是更好的域适应方法选项。在有监督域适应中，传统域自适应方法的主要技术问题是如何减少跨领域数据分布的变化。早期的研究提出了许多不同的算法，它们大体可以分为两类：1)传统方法，主要通过联合最小化区域差异的距离度量来学习浅特征。例如，迁移成分分析(TCA)、测地线核(GFK)、联合分布适应(JDA)、迁移联合匹配(TJM)、特征复制(FR)等；2)基于深度学习方法，主要通过卷积神经网络学习特征，例如，深度适配网络(DAN)，混合第二或更高阶知识迁移(So-Hot)，对抗性鉴别域适应(ADDA)、分类与语义对齐损失(CCSA)等。但是，以上方法都没有彻底消除两个域之间的差异，因为当将微调后的卷积神经网络应用到一个新的域时，精度会显著降低。

域泛化是一种特殊的域自适应技术，其目的是研究一种对任何不可见目标域都具有较强鲁棒性的分类器。在没有目标数据的情况下，域泛化从多个观察域训练一个模型，同时期望它在任何不可见域上都能很好地执行，取得良好的效果。目前成熟的域泛化方法大致可以分为两类。一是设计跨两个域的域不变特征，实现域泛化。例如域不变成分分析，多任务自动编码器，集中所有训练数据的支持向量机学习，对跨域变化具有健壮性的特性学习等。第二种方法通常从源域中的每个子域设计子分类器，然后将子分类器组合成融合分类器，实现域泛化。例如低秩样本支持向量机学习，基于范例的多视图域泛化，消除数据集偏差的判别框架等。

为了同时解决域自适应和域泛化问题，本发明提出了一种具有良好泛化能力的双链深度网络，不仅有效地完成了域自适应的任务，而且大大提高了模型的泛化能力。此外，这两个问题被统一到同一个网络体系结构中。这种方法在训练中每一类只需要很少的标记目标样本。此外，即使是只有一个有标记的样本，也能显著提高性能。