[发明专利]一种对抗样本检测方法和装置

说明书

本发明实施例提供了一种对抗样本检测方法和装置，所述方法包括：获取待检测图像；将所述待检测图像输入预设的图像重构网络中，得到所述图像重构网络输出的重构图像；计算所述重构图像与所述待检测图像之间相似度；若所述重构图像与所述待检测图像之间的相似度小于预设阈值，确定所述待检测图像为对抗样本。从而可以基于待检测图像与图像重构网络输出的重构图像之间的相似度，确定所述待检测图像是否为对抗样本。可以在将图像输入深度学习神经网络之前，即可以将具有对抗性的待检测图像筛选出来，实现对抗样本的快速查找，且准确率高，具有较好的泛用性。

技术领域

本发明涉及图像处理技术领域，特别是涉及一种对抗样本检测方法和一种对抗样本检测装置。

背景技术

现有技术中，图像识别的准确度、安全度要求不断提升。一般来说，图像可以采用深度学习神经网络进行识别。但是，深度学习神经网络容易受到对抗样本的攻击，导致图像识别的结果出现错误，出现深度学习神经网络无法在图像中识别目标，或者目标分类错误的情况。

一般来说，为了避免深度学习神经网络受到对抗样本的攻击，通常可以在训练中采用对抗样本对深度学习神经网络进行训练，提高深度学习神经网络的鲁棒性。但是，在面对训练过程未出现的对抗样本，深度学习神经网络仍然容易出现图像识别错误的情况。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种对抗样本检测方法和相应的一种对抗样本检测装置。

为了解决上述问题，本发明实施例公开了一种对抗样本检测方法，包括：

获取待检测图像；

将所述待检测图像输入预设的图像重构网络中，得到所述图像重构网络输出的重构图像；

计算所述重构图像与所述待检测图像之间相似度；

若所述重构图像与所述待检测图像之间的相似度小于预设阈值，确定所述待检测图像为对抗样本。

可选地，所述计算所述重构图像与所述待检测图像之间相似度的步骤，包括：

计算所述重构图像与所述待检测图像之间的欧式距离。

可选地，所述图像重构网络采用如下方式训练得到：

将训练样本输入待训练的所述图像重构网络中，得到所述图像重构网络输出的重构图像；

将所述重构图像输入预设的分类器中，得到所述分类器输出的判断结果；

基于所述分类器输出的判断结果以及预设的训练目标，对所述图像重构网络进行调整，直至满足预设的训练条件，所述图像重构网络训练完成。

可选地，所述预设的训练目标为最小化所述重构图像与正常图像之间的误差。

可选地，所述训练样本包括随机噪声图像。

本发明实施例还公开一种对抗样本检测装置，包括：

图像获取模块，用于获取待检测图像；

重构模块，用于将所述待检测图像输入预设的图像重构网络中，得到所述图像重构网络输出的重构图像；

相似计算模块，用于计算所述重构图像与所述待检测图像之间相似度；

样本确定模块，用于若所述重构图像与所述待检测图像之间的相似度小于预设阈值，确定所述待检测图像为对抗样本。

可选地，所述相似计算模块包括：

相似计算子模块，用于计算所述重构图像与所述待检测图像之间的欧式距离。

可选地，所述图像重构网络采用如下模块训练得到：