[发明专利]一种提高深度神经网络模型对抗鲁棒性的方法

权利要求书

1.一种提高深度神经网络模型对抗鲁棒性的方法，其特征在于，包括：

步骤1：构建内生防护模块，所述内生防护模块包括注意力单元，所述注意力单元包括用于输入原始样本的第一输入端和用于输入对抗样本的第二输入端，以及对应的用于输出原始输出的第一输出端和用于输出对抗输出的第二输出端；

步骤2：在给定的深度神经网络模型结构中确定若干个插入位置，在所述插入位置插入所述内生防护模块，得到新的深度神经网络模型；

步骤3：采用对抗训练方法对所述新的深度神经网络模型进行训练。

2.根据权利要求1所述的一种提高深度神经网络模型对抗鲁棒性的方法，其特征在于，所述内生防护模块的损失函数如公式(1)所示：

其中，x_clean表示原始样本，x_adv表示对抗样本，f表示神经网络，sub_f表示内生防护模块，sub_f(x_clean)和sub_f(x_adv)分别表示原始样本和对抗样本通过内生防护模块后得到的原始输出和对抗输出，表示计算原始输出和对抗输出之间距离的函数。

3.根据权利要求2所述的一种提高深度神经网络模型对抗鲁棒性的方法，其特征在于，所述函数的计算公式如公式(2)所示：

其中，n为样本维度的数值。

4.根据权利要求2所述的一种提高深度神经网络模型对抗鲁棒性的方法，其特征在于，步骤3中，在训练过程中，采用公式(3)所示的损失函数作为所述新的深度神经网络模型的损失函数：

其中，表示原始输出与标签之间的损失，表示对抗输出与标签之间的损失，||δ||_p表示对抗扰乱δ的L_p距离，∈为对抗扰乱δ的球边界，α₁和α₂表示用于平衡和的超参数；β和γ表示用于平衡三个分量损失之间均衡性的参数；f(x_clean)和f(x_adv)分别表示原始样本和对抗样本通过神经网络f后得到的输出，表示计算f(x_clean)和f(x_adv)之间距离的函数。

5.根据权利要求4所述的一种提高深度神经网络模型对抗鲁棒性的方法，其特征在于，所述函数的计算公式如公式(4)所示：