[发明专利]一种基于可靠权重最优传输的图像分类方法

说明书

本发明公开了一种基于可靠权重最优传输的图像分类方法，首先对源域数据进行预处理，使得深度神经网络拟合源域样本图像的样本标签；然后进行图片标注，给目标域数据样本打上伪标签，再进行节点配对，实现源域和目标域中的相关联的图片的配对，最后通过特征提取器和自适应判别器实现自动分析，对图像进行分类。本发明提出了一种利用空间原型信息和域内结构动态测量样本域间差异的子空间可靠性方法。该方法可作为现有领域自适应技术的预处理步骤，大大提高了效率。本发明将收缩子空间可靠性与最优运输策略相结合，可以使深度特征更加明显，增强模型的鲁棒性和有效性。本发明的深度神经网络在各种数据集上工作稳定，性能优于现有方法。

技术领域

本发明涉及图像分类领域，尤其涉及一种基于可靠权重最优传输的图像分类方法。

背景技术

深度学习是计算机视觉领域中的重要方法，通过训练学习样本数据的内在规律和表示层次，在图像分类，目标检测和语义分割等领域被广泛使用。传统监督学习需要大量人工标注数据，非常费时费力。为避免机械重复的贴标签工作，无监督领域自适应(Unsupervised Domain Adaptation,UDA)方法旨在将某个领域学习好的知识或模式应用到到新的不同但相关的领域中，用拥有丰富的监督信息的源域(Source Domain)来提升无标签或者只有少量标签的目标域(Target Domain)模型的性能。其中，最优传输(OptimalTransport)是一种较好的实现域间特征对齐的方法。但是，大多数基于最佳运输的现有工程都忽略了域内结构，仅实现粗略的成对匹配，很容易将分布在聚类边缘或远离对应类中心的目标样本误分类。

对于无监督的领域自适应(UDA)，传统方法是利用域中不变特征训练的方法进行域迁移,相关的域不变特征度量方法有：

a)最大均值差异Maximum Mean Discrepancy(MMD)

最大均值差异(MMD)是目前使用最广泛的一种损失函数，主要用来度量两个不同但相关的分布的距离。两个分布的距离定义为：

H表示这个距离是由φ()将数据映射到再生希尔伯特空间(RKHS)中进行度量的。

b)Correlation Alignment(CORAL)

CORAL的方法，通过对source domain和target domain进行线性变换来将他们各自的的二阶统计量对齐(对齐均值与协方差矩阵)。

表示第j维度下source(target)domain数据中的第i个样本。用C_S(C_T)表示特征的协方差矩阵。|| ||_F为矩阵的Frobenius范数，d为数据维度。

c)相对熵Kullback-Leibler_divergence(KL)

相对熵，又被称为KL散度，是用来衡量两个概率分布之间的不同程度。设P(x),Q(x)是两个概率分布

利用对抗训练(adversarial training)的方法进行域迁移

d)域对抗神经网络Domain-Adversarial Neural Networks(DANN)

DANN提出的体系结构包括一个特征提取器(绿色)和一个标签预测器(蓝色)，它们共同构成一个标准的前馈神经网络。在基于反向传播的训练过程中，通过梯度反转层将梯度乘以一定的负常数，将一个域分类器(红色)连接到特征提取器，实现无监督域自适应。梯度反转确保了两个域上的特征分布是相似的(对于域分类器来说，尽可能难以区分)，从而产生域不变的特征。