[发明专利]对抗样本检测方法、装置、计算设备及计算机存储介质

权利要求书

1.一种对抗样本检测方法，其特征在于，所述方法包括：

获取训练样本及其对应的训练样本标签，所述训练样本标签包括正常样本和对抗样本；

将所述训练样本输入目标模型，得到所述训练样本的第一预测得分向量；

将所述训练样本添加N次随机扰动，得到N组对比训练样本，其中，N为大于0的自然数；

将所述N组对比训练样本分别输入目标模型，得到每一组对比训练样本的第二预测得分向量；

根据所述第一预测得分向量和所述每一组对比训练样本的第二预测得分向量构建特征数据；

根据所述特征数据及所述特征数据对应的训练样本标签，训练分类模型，得到检测器；

根据所述检测器对输入的测试数据进行检测；

所述根据所述第一预测得分向量和所述每一组对比训练样本的第二预测得分向量构建特征数据，包括：

计算所述第一预测得分向量和所述每一组对比训练样本的第二预测得分向量的差值向量；

根据N组对比训练样本的差值向量构建特征数据；

所述根据N组对比训练样本的差值向量构建特征数据，包括：

对所述N组对比训练样本的差值向量进行去噪、降维处理，得到所述特征数据；

所述对所述N组对比训练样本的差值向量进行去噪、降维处理，得到所述特征数据，包括：

将N组对比训练样本的差值向量组成一个N列的差值矩阵；

对所述差值矩阵中每一行的元素按照从小到大的顺序排序，得到排序后的差值矩阵；

提取所述排序后的差值矩阵中每一行的预设分位数；

将所有行得到的预设分位数作为所述特征数据。

2.根据权利要求1所述的方法，其特征在于，所述将所述训练样本输入目标模型，得到所述训练样本的第一预测得分向量，包括：

将所述训练样本输入目标模型，得到每一训练样本对应的置信度向量；

获取所述置信度向量中的最大值，得到所述每一训练样本的预测得分；

将所述每一训练样本的预测得分组成的向量作为所述训练样本的第一预测得分向量。

3.根据权利要求1所述的方法，其特征在于，所述将所述训练样本添加N次随机扰动，得到N组对比训练样本，包括：

根据预设分布函数生成随机扰动，所述预设分布函数为均值为0，且对称分布的分布函数；

将所述训练样本添加N次所述随机扰动，得到N组对比训练样本。

4.根据权利要求3所述的方法，其特征在于，所述预设分布函数为均值为0的高斯分布函数。

5.根据权利要求1所述的方法，其特征在于，所述计算所述第一预测得分向量和所述每一组对比训练样本的第二预测得分向量的差值向量，包括：

计算所述每一组对比训练样本的第二预测得分向量相对于所述第一预测得分向量的变化率向量；

将所述变化率向量作为所述差值向量。

6.根据权利要求1所述的方法，其特征在于，当正常样本和对抗样本的数量相同时，所述根据所述特征数据及所述特征数据对应的训练样本标签，训练分类模型，得到检测器，包括：

根据所述特征数据及所述特征数据对应的训练样本标签，训练二分类模型，得到检测器。

7.根据权利要求1所述的方法，其特征在于，所述根据所述检测器对输入的测试数据进行检测，包括：

获取测试数据；

将所述测试数据输入所述检测器，得到检测结果；

当所述检测结果对应的标签为对抗样本时，确定所述测试数据为对抗样本。