[发明专利]对深度网络解释算法的对抗噪声攻击扰动图像的防御方法

权利要求书

1.一种对深度网络解释算法的对抗噪声攻击扰动图像的防御方法，其特征在于，包括如下步骤：

步骤1)对深度网络解释算法的对抗噪声攻击获得原始扰动图像，计算原始扰动图像的一阶局部梯度的幅值，获得扰动图像的一阶局部梯度幅值图像；

步骤2)对原始扰动图像的一阶局部梯度幅值图像进行归一化后，获得原始扰动图像的归一化梯度幅值图像；

步骤3)利用解释算法对原始扰动图像进行解释，获得可视化的解释图像同时定位可视化的解释图像中的对抗噪声特征区域，再根据对抗噪声特征区域对可视化的解释图像进行0或1填充，获得二进制掩码图像，最后利用二进制掩码图像和归一化梯度幅值图像对原始扰动图像进行高频噪声的滤除，获得滤除掉高频噪声的扰动图像；

步骤4)对滤除掉高频噪声的扰动图像采用解释算法进行解释，获得解释后的图像，判断解释是否准确定位到图像内目标分类物体上，若定位准确，则说明解释恢复准确，防御有效；否则防御无效。

2.根据权利要求1所述的一种对深度网络解释算法的对抗噪声攻击扰动图像的防御方法，其特征在于，所述步骤1)具体为：

对深度网络解释算法的对抗噪声攻击获得原始扰动图像，沿着原始扰动图像的水平和垂直方向，分别计算原始扰动图像的水平和垂直方向的梯度，根据原始扰动图像的水平和垂直方向的梯度再计算原始扰动图像的一阶局部梯度的幅值，获得扰动图像的一阶局部梯度幅值图像；

其中，原始扰动图像的一阶局部梯度幅值图像G通过以下公式进行计算：

其中，G_a和G_b分别表示原始扰动图像的水平和垂直方向的梯度。

3.根据权利要求1所述的一种对深度网络解释算法的对抗噪声攻击扰动图像的防御方法，其特征在于：

所述步骤2)中，一阶局部梯度幅值图像G的归一化通过以下公式进行计算：

其中，g表示归一化梯度幅值图像，G表示一阶局部梯度幅值图像G，G_min和G_max分别表示一阶局部梯度幅值图像G中梯度的最小值和最大值。

4.根据权利要求1所述的一种对深度网络解释算法的对抗噪声攻击扰动图像的防御方法，其特征在于，所述步骤3)具体为：

利用解释算法对原始扰动图像进行解释，获得可视化的解释图像同时定位可视化的解释图像中的对抗噪声特征区域；

再将可视化的解释图像中的对抗噪声特征区域用1填充、可视化的解释图像中的其余区域用0填充后，获得二进制掩码图像；

最后利用二进制掩码图像和归一化梯度幅值对原始扰动图像进行高频噪声的滤除，获得滤除掉高频噪声的扰动图像，通过以下公式进行滤除；

T(X)＝X⊙(1-β(M⊙g))

其中，T(X)表示滤除掉高频噪声的扰动图像，X表示原始扰动图像，β为过滤因子，M为二进制掩码图像，g为归一化梯度幅值图像，⊙表示点乘操作。

5.根据权利要求1所述的一种对深度网络解释算法的对抗噪声攻击扰动图像的防御方法，其特征在于：所述步骤3)和步骤4)中的解释算法相同。