[发明专利]使用交叉训练模型检测对抗样本的方法

权利要求书

1.一种使用交叉训练模型检测对抗样本的方法，其特征在于，首先通过普通样本分别训练两个待优化模型，然后混合生成训练样本集并交叉训练若干次，完成训练后得到的两个模型分别用于对样本进行分类，根据分类结果的是否相同判断该样本是否为对抗样本；

所述的训练样本集包括：正常样本、模型自身的对抗样本以及来自其他模型的对抗样本。

2.根据权利要求1所述的方法，其特征是，所述的混合生成是指：正常样本、模型自身的对抗样本和另一个模型的对抗样本按1:2:1的比例混合。

3.根据权利要求1所述的方法，其特征是，所述的交叉训练是指：每轮训练中分别以训练样本集训练两个待优化模型，并根据每轮各自产生对抗样本对训练样本集进行更新，供下一轮交叉训练使用。

4.根据权利要求1所述的方法，其特征是，所述的两个模型分别为卷积神经网络以及全连接深度学习网络。

5.根据权利要求1或4所述的方法，其特征是，所述的两个模型中模型A为包括：三层卷积层和一层全连接层的卷积神经网络；模型B为包括：四层全连接层和三层Dropout层的深度学习网络。

6.根据权利要求1所述的方法，其特征是，所述的对抗样本生成方法包括：快速梯度下降法、多重迭代的快速梯度下降算法、基于优化的对抗样本距离计算方法。

7.根据权利要求1所述的方法，其特征是，所述的交叉训练采用的损失函数为基于距离的损失函数：其中：X_i是正常样本，是模型自身的对抗样本，是另一个模型的对抗样本，yi是样本的正确分类标签，L(X_i|y_i)是输入X_i且标签为y_i时的损失值，和E_i分别是向模型中输入和X_i时输出的预测值(未经过argmax)，是和E_i的距离，k和γ是常数。

8.一种实现上述任一权利要求所述检测方法的系统，其特征在于，包括：依次级联的预处理模块、交叉训练模块和对抗样本鉴别模块，其中：预处理模块采用普通样本对模型进行训练并分别得到两个模型的模型参数，交叉训练模块将正常样本、两个模型之一的对抗样本、另一模型的对抗样本作为该模型的训练样本集训练两个模型，并各自产生对抗样本后迭代地进行交叉训练直至得到鉴别模型，对抗样本鉴别模块分别用两个鉴别模型对待鉴别样本进行分类，根据分类结果的是否相同判断该样本是否为对抗样本。