[发明专利]一种基于分层特征对齐的鲁棒特征学习方法

权利要求书

1.一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：包括以下步骤：

(1)从不同领域的图像样本中使用深度卷积神经网络提起不同层次的深度特征；

(2)对于提取的分层特征，通过图卷积神经网络给特征的通道和空间关系加以限制，从而使得模型学得更加丰富的特征表示；

(3)使用基于最优传输理论的Wasserstein distance来准确的度量不同领域样本特征表示之间的差异；

(4)将从不同领域样本中提取的分层特征之间的差异作为模型损失函数的一部分来帮助模型学习更加鲁棒的特征，从而提升深度神经网络模型的对抗鲁棒性；

步骤(2)，使用两个一维卷积进行图卷积的操作，该图卷积操作公式化为以下形式：

GCN(f)＝Conv1D[Conv1D(f)]

其中，在公式中，GCN(﹒)表示图卷积神经网络，f表示经过降维处理的特征向量，f表示图卷积操作的输入；此外，Conv1D(﹒)表示一个一维卷积操作，使用两个方向不同的一维图卷积操作进行特征提取，在经过充分的端到端训练后，该图卷积操作加强对于特征中不同区域之间关系的表示能力；

步骤(3)，采用X表示从正常领域内样本中使用深度神经网络提取的在某一层的特征，Y表示从对抗领域内样本中使用同样的深度神经网络提取的在同一个层处的特征，这两个特征分布X与Y之间的最优传输距离被公式化为如下形式：

其中，在公式中，：＝表示这是一个定义，把右边的计算结果定义左边的表示形式，P_X和P_Y分别表示特征X和Y的边缘分布形式，并且P(X～P_X,Y～P_Y)表示特征X和Y的联合分布，c(x,y)是任意的可测误差函数，它度量了X与Y之间的距离；此外，E_(X,Y)～Γ表示计算的是联合概率下的数学期望，inf表示这里计算是数学期望的下确界，因此，W_c(P_X,P_Y)就被定义为在可测误差函数c的前提下，以特征X与Y的边缘分布P_X和P_Y为输入，在所有的度量距离方式中，X到Y距离最小的方式被称为最优传输方式，计算出的距离值为需要的最优传输距离。

2.根据权利要求1所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：所述不同领域的图像样本包括正常领域图像样本和对抗领域图像样本。

3.根据权利要求2所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：步骤(1)，使用ResNet-110网络结构来进行图像的特征提取，分为4个不同的结构层次，输入正常样本或对抗样本后，在网络进行正向推理的时，在4个不同的结构层次处，使用卷积结构提取不同尺度、不同抽象程度的图像特征。

4.根据权利要求3所述的一种基于分层特征对齐的鲁棒特征学习方法，其特征在于：步骤(4)，具体包括从正常领域图像样本和对抗领域图像样本中分层提取的特征表示，在使用图卷积进行处理后，使用Wasserstein distance计算它们之间的差异，将不同层次中对抗样本特征表示和正常样本特征表示的Wasserstein distance加入到优化网络参数使用的最终损失函数中去，通过充分的端到端训练，让网络模型逐渐的利用特征对齐来学习到更加鲁棒的特征表示；

最终的损失函数如下公式所示：

其中，在公式中，F表示用于图像分类的深度神经网络，θ为该深度神经网络的参数，该参数是在网络端到端训练时进行学习的，L_CE表示交叉熵损失函数，同时计算了正常样本和相应的对抗样本的交叉熵损失，使得网络能对正常样本和对抗样本成功分类；x_clean表示正常样本，x_adv表示对抗样本，y_true表示数据的正确标签，和分别表示在深度神经网络F的第l层处从正常样本以及对抗样本中提取的图像特征表示,l＝1,2或l＝1,2,3,4；LC表示对特征进行线性组合；λ表示多个损失函数之间的相对权重，在使用训练集对模型进行训练时，最终的损失函数计算分类误差以及不同领域样本特征之间的差异，然后根据这些误差使用随机梯度下降算法对网络的模型参数进行优化，最终找到最优的模型参数。