[发明专利]对抗样本检测方法、装置、设备及计算机可读存储介质

说明书

本发明公开了一种对抗样本检测方法、装置、设备及计算机可读存储介质，所述方法包括：将待检测样本输入自编码网络中，将自编码网络中目标中间层的输出作为待检测样本的潜在特征，其中，自编码网络基于标准数据集训练得到，标准数据集中样本的标签类别与待检测样本的标签类别相同；将潜在特征与判定标准进行差异比较，并基于比较结果得到待检测样本的对抗样本检测结果，其中，判定标准为将标准数据集中的样本输入自编码网络，并基于目标中间层的输出得到的。本发明提供了一种对抗样本的有效检测方法，进而能够避免对抗攻击对神经网络的分类或预测任务造成影响，也即能够有效地防御对抗攻击，也能够避免对抗攻击造成的安全隐患。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种对抗样本检测方法、装置、设备及计算机可读存储介质。

背景技术

随着神经网络技术的快速发展和广泛应用，出现了一些针对神经网络的攻击方式。对抗攻击是目前针对神经网络的一种常见的攻击方式，其通过在输入数据中添加少量噪声，使得在不大幅改变原始数据的前提下迫使模型做出错误的判断。例如，通过对图片添加精心准备的扰动噪声使得分类器分错，或者通过对一个句子中的某些词进行同义词替换使得情感分类错误。对抗攻击在自动驾驶、人脸识别和金融建模等方面存在重大安全隐患，例如，通过对自动驾驶车辆拍摄到的红灯图像进行添加噪声，使得识别红绿灯的图像分类器误将红灯识别为绿灯，将可能造成严重的交通事故。由此，如何提供一种对抗样本的有效检测方法，以对对抗样本进行排除，避免安全隐患，成为了一个亟待解决的问题。

发明内容

本发明的主要目的在于提供一种对抗样本检测方法、设备、系统及计算机可读存储介质，旨在解决如何提供一种对抗样本的有效检测方法，以对对抗样本进行排除，避免安全隐患，成为了一个亟待解决的问题。

为实现上述目的，本发明提供一种对抗样本检测方法，所述方法包括以下步骤：

将待检测样本输入自编码网络中，将所述自编码网络中目标中间层的输出作为所述待检测样本的潜在特征，其中，所述自编码网络基于标准数据集训练得到，所述标准数据集中样本的标签类别与所述待检测样本的标签类别相同；

将所述潜在特征与判定标准进行差异比较，并基于比较结果得到所述待检测样本的对抗样本检测结果，其中，所述判定标准为将所述标准数据集中的样本输入所述自编码网络，并基于所述目标中间层的输出得到的。

可选地，所述将待检测样本输入自编码网络中，将所述自编码网络中目标中间层的输出作为所述待检测样本的潜在特征的步骤之前，还包括：

将所述标准数据集输入待训练网络中的编码器得到编码结果；

将所述编码结果输入所述待训练网络中的极化哈希层得到哈希结果，以及将所述编码结果输入所述待训练网络中的解码器得到解码结果；

基于所述哈希结果和预设随机哈希码计算编码损失值，以及基于所述标准数据集和所述解码结果计算重构损失值；

基于所述编码损失值和所述重构损失值更新所述待训练网络，以对所述待训练网络进行训练，并将训练完成后的待训练网络作为所述自编码网络。

可选地，所述将所述编码结果输入所述待训练网络中的极化哈希层得到哈希结果的步骤包括：

将所述编码结果输入所述待训练网络中的极化哈希层得到极化向量；

根据所述极化向量各元素值的正负符号确定所述极化向量对应的哈希结果。

可选地，所述基于所述哈希结果和预设随机哈希码计算编码损失值的步骤包括：

计算所述哈希结果和所述预设随机哈希码之间的汉明距离，将所述汉明距离作为编码损失值。

可选地，所述基于所述哈希结果和预设随机哈希码计算编码损失值的步骤之前，还包括：