[发明专利]局部可视对抗样本的检测方法、装置、设备和存储介质

说明书

本发明适用于人工智能技术领域，提供了一种局部可视对抗样本的检测方法、装置、设备和存储介质，其中，局部可视对抗样本的检测方法包括：基于类激活映射方式对目标样本进行定位处理，得到目标样本的样本区域；将样本区域输入至预设分类模型，得到样本区域的第一分类预测向量；对样本区域进行图像变换；将变换后的样本区域输入至预设分类模型，得到变换后的样本区域的第二分类预测向量；获取第一分类预测向量和第二分类预测向量的距离值；在距离值大于预设阈值的情况下，将目标样本检测为局部可视对抗样本。采用本发明可以在实现成本低的同时，准确地检测出局部可视对抗样本，检测效果较好。

技术领域

本发明属于人工智能技术领域，尤其涉及一种局部可视对抗样本的检测方法、装置、设备和存储介质。

背景技术

随着人工智能的不断发展，深度学习在众多领域的应用中取得了巨大成功，尤其是在计算机视觉领域，譬如基于人脸识别的支付系统、自动驾驶的无人公交以及目标检测的视频监控等。

经研究发现，深度学习模型容易受到微小输入扰动的干扰，这些干扰人类无法察觉却会引起机器的判断错误，从而导致深度学习模型以高置信度给出错误的输出，引起这种错误的扰动的数据可称为对抗样本。对抗样本主要分为两类，一类是在整张图像中添加视觉上不可感知的细微扰动，该类对抗样本可称为全局对抗样本；另一类是在图像的某一局部区域添加明显扰动，该类对抗样本不追求视觉上的隐蔽性，称为局部可视对抗样本。

由于局部可视对抗样本的攻击成本比全局对抗样本要低很多，所带来的效果更加的直观，危害性更强，因此，对局部可视对抗样本的检测极为重要，亟需一种检测效果好且实现成本低的检测局部可视对抗样本的方法。

发明内容

有鉴于此，本发明实施例提供了一种局部可视对抗样本的检测方法、装置、设备和存储介质，以解决现有技术中缺少一种检测效果好且实现成本低的局部可视对抗样本检测方法的问题。

本发明实施例的第一方面提供了一种局部可视对抗样本的检测方法，包括：

基于类激活映射方式对目标样本进行定位处理，得到目标样本的样本区域；

将样本区域输入至预设分类模型，得到样本区域的第一分类预测向量；

对样本区域进行图像变换；

将变换后的样本区域输入至预设分类模型，得到变换后的样本区域的第二分类预测向量；

获取第一分类预测向量和第二分类预测向量的距离值；

在距离值大于预设阈值的情况下，将目标样本检测为局部可视对抗样本。

可选的，预设分类模型包括多个分类子模型，每个分类子模型的类型互不相同；

相应的，将样本区域输入至预设分类模型，得到样本区域的第一分类预测向量，包括：将样本区域分别输入至多个分类子模型，得到相应分类子模型的第三分类预测向量；将多个分类子模型各自的第三分类预测向量的平均值确定为第一分类预测向量；

相应的，将变换后的样本区域输入至预设分类模型，得到变换后的样本区域的第二分类预测向量，包括：将变换后的样本区域分别输入至多个分类子模型，得到相应分类子模型的第四分类预测向量；将多个分类子模型各自的第四分类预测向量的平均值确定为第二分类预测向量。

可选的，对样本区域进行图像变换，包括：

将样本区域的色彩位深度缩小至预设位深度。

可选的，对样本区域进行图像变换，包括：

采用卷积神经网络和编码解码器对样本区域进行图像压缩。

可选的，对样本区域进行图像变换，包括：

采用自适应中值滤波器对样本区域进行图像滤波。