[发明专利]基于梯度热力图和关键区域检测对抗样本的方法及系统

权利要求书

1.一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，包括如下步骤：

步骤1、给定一个图像/视频分类模型，单个图像/视频样本，欲判断是否为对抗样本，首基于图像关键区域识别方法对图像或视频进行关键区域识别，图像关键区域识别方法为LC算法，LC算法采用单个像素点与全局像素点间的欧氏距离之和作为该像素点的权重，归一化后得到图像的关键区域；

步骤2、针对深度学习模型，利用热点区域检测方法对图像或视频进行热点区域识别；

步骤3、对关键区域和热点区域进行重合度计算，得到重合度值；

步骤4、判断重合度值是否大于给定的边界值，若大于边界值，则图像或视频为正常样本，否则判断为对抗样本。

2.根据权利要求1所述的一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，所述步骤1中的图像关键区域识别方法由LC算法替换为AC算法、HC算法或FT算法。

3.根据权利要求2所述的一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，步骤1中关键区域识别的公式为：

其中，表示关键区域，表示图像或视频，表示计算机视觉方法。

4.根据权利要求3所述的一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，所述步骤2中的热点区域检测方法为梯度热力图方法G-CAM。

5.根据权利要求4所述的一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，步骤2的具体步骤为：

将图像或视频x输入深度学习模型C获得深度学习模型的输入/响应：

利用热点区域检测方法识别深度学习模型C中，对于图像或视频x和输出/响应的热点区域h：

其中，表示热点区域检测方法。

6.根据权利要求3所述的一种基于梯度热力图和关键区域检测对抗样本的方法，其特征在于，步骤3中重合度值的计算公式为：

其中，表示重合度值，表示向量的点乘，即和对应位置的值相乘。

7.一种基于梯度热力图和关键区域检测对抗样本的系统，其特征在于，包括：

关键区域识别单元：给定一个图像/视频分类模型，单个图像/视频样本，欲判断是否为对抗样本，首基于图像关键区域识别方法对图像或视频进行关键区域识别，图像关键区域识别方法为LC算法，LC算法采用单个像素点与全局像素点间的欧氏距离之和作为该像素点的权重，归一化后得到图像的关键区域；

热点区域识别单元：利用热点区域检测方法对图像或视频进行热点区域识别；

重合度计算单元：对关键区域和热点区域进行重合度计算，得到重合度值；

对抗样本识别单元：判断重合度值是否大于给定的边界值，若大于边界值，则图像或视频为正常样本，否则判断为对抗样本。

8.根据权利要求7所述的一种基于梯度热力图和关键区域检测对抗样本的系统，其特征在于，所述关键区域识别单元中的图像关键区域识别方法由LC算法替换为AC算法、HC算法、LC算法或FT算法。

9.根据权利要求8所述的一种基于梯度热力图和关键区域检测对抗样本的系统，其特征在于，所述热点区域识别单元中的热点区域检测方法为梯度热力图方法G-CAM；

热点区域识别单元的具体步骤为：

将图像或视频x输入深度学习模型C获得深度学习模型的输入/响应：

利用热点区域检测方法识别深度学习模型C中，对于图像或视频x和输出/响应的热点区域h：

其中，表示热点区域检测方法。

10.根据权利要求9所述的一种基于梯度热力图和关键区域检测对抗样本的系统，其特征在于，重合度计算单元中重合度值的计算公式为：

其中，表示重合度值，表示向量的点乘，即和对应位置的值相乘。