[发明专利]一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法

权利要求书

1.一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法，包括以下步骤：

S1、将原始图像与从均匀分布中采样的随机噪声混合，并逐渐增大随机噪声的权值，直到被模型错误分类为止；

S2、之后作为初始对抗样本，进行迭代算法，该算法由梯度方向估计、沿梯度方向前向移动和用二分搜索算法投影回决策边界三个步骤组成；

S3、对于一个边界处的对抗样本，包括：

1)在这一点附近以拉丁超立方体抽样的方法采样多个高斯噪声；

2)将此边界对抗样本与噪声相加后得到的多个样本点，通过访问模型判断样本点所属标签与原始样本标签是否一致，从而来确定噪声的朝向：若标签一致，则将此噪声的方向更新为其反方向，反之不变；

3)将上述获得的噪声进行平均，将结果作为决策边界处的梯度方向。

2.根据权利要求1所述的一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法，所述S2中，梯度方向估计的任务是充分利用神经网络的输出硬标签，进行梯度方向估计，考虑一个训练模型，其参数θ可以表示为f_θ:x→y，其中x是输入的归一化图像，y是模型的最终决策，如top-1分类标签，给定正确分类的输入图像x^*作为原始样本，对应的输出F(x^*)是k维向量，表示类的概率分布。

3.根据权利要求1所述的一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法，所述S2中，沿梯度方向前向移动的任务是在梯度方向估计的基础上，朝估计好的梯度方向移动一步，获得位于对抗区的样本。

4.根据权利要求1所述的一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法，所述S2中，投影回边界使用一个参数α_t来调控对抗样本与原始样本的相对位置，由于提出的梯度方向估计算法仅在边界处有效，因此利用基于二分法的边界搜索算法，来快速找到边界。

5.根据权利要求1所述的一种基于拉丁超立方体抽样估计梯度的边界对抗攻击方法，对抗攻击方法可分为以下三个模块：梯度方向估计方法模块、沿梯度方向前向移动算法模块、投影回边界模块。