[发明专利]对抗样本的检测方法、装置及设备

权利要求书

1.一种对抗样本的检测方法，其特征在于，包括：

将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图；

将所述特征图进行协方差矩阵估计，获得所述待检测样本在所述深度学习模型的总置信度；

将所述总置信度与预设阈值进行比较，当所述总置信度大于或等于所述预设阈值，判定所述待检测样本为对抗样本。

2.根据权利要求1所述的方法，其特征在于，所述将所述特征图进行协方差矩阵估计，包括：

将所述特征图进行Wishart分布的协方差矩阵抗差估计。

3.根据权利要求1所述的方法，其特征在于，所述将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图，包括：

将待检测样本输入卷积神经网络，获取所述卷积神经网络每层的特征图。

4.根据权利要求3所述的方法，其特征在于，所述获得所述待检测样本在所述深度学习模型的总置信度，包括：

获取所述待检测样本在所述卷积神经网络每层的置信度；

将每层的所述置信度进行加权运算后，得到所述待检测样本在所述深度学习模型的总置信度。

5.根据权利要求4所述的方法，其特征在于，所述获取所述待检测样本在所述卷积神经网络每层的置信度，包括：

根据Wishart分布的概率密度函数，得到矩阵马氏距离；

根据所述矩阵马氏距离确定所述待检测样本在所述卷积神经网络每层的置信度。

6.根据权利要求4所述的方法，其特征在于：

所述将每层的所述置信度进行加权运算时采用的权重，通过Logistic模型进行处理得到。

7.根据权利要求1至6任一项所述的方法，其特征在于：

所述预设阈值为Wishart分布的设定值分位数。

8.一种对抗样本的检测装置，其特征在于，所述装置包括：

特征提取模块，用于将待检测样本输入深度学习模型，提取所述深度学习模型每层的特征图；

置信度计算模块，用于将所述特征提取模块提取的特征图进行协方差矩阵估计，获得所述待检测样本在所述深度学习模型的总置信度；

比较模块，用于将所述置信度计算模块获得的总置信度与预设阈值进行比较，当所述总置信度不小于所述预设阈值，判定所述待检测样本为对抗样本。

9.一种电子设备，其特征在于，包括：

处理器；以及

存储器，其上存储有可执行代码，当所述可执行代码被所述处理器执行时，使所述处理器执行如权利要求1至7中任一项所述的方法。

10.一种非暂时性机器可读存储介质，其上存储有可执行代码，当所述可执行代码被电子设备的处理器执行时，使所述处理器执行如权利要求1至7中任一项所述的方法。