[发明专利]对抗样本图像质量评价方法及系统

说明书

本发明提出一种对抗样本图像质量评价方法及系统，该方法包括：通过分类器筛选出置信度大于置信度阈值的原始图像构建对抗样本数据集，利用多种对抗攻击方法攻击对抗样本数据集，通过调节不同攻击方法的参数得到对抗样本；计算对抗样本的残差图像，利用特征编码网络对原始图像、对抗样本和残差图像进行特征预提取，通过拼接将提取到原始图像、对抗样本和残差图像的特征图进行拼接得到新的特征图，利用多尺度特征提取网络对新的特征图和对抗样本的特征图进行处理获取不同尺度的特征图；利用结构相似性度量方法度量不同尺度的特征图，获得对应的分数，最后平均化处理所有尺度的分数得到最终的质量分数。本发明能够有效评价对抗样本图像质量。

技术领域

本发明涉及图像处理技术领域，特别是涉及一种对抗样本图像质量评价方法及系统。

背景技术

现阶段，深度神经网络（ DNN）的研究有着突破性的进展，在图像分类、语义识别等方面应用更加广泛，并成功的应用于现实生活当中，例如，自动驾驶、人脸识别等。为了提升 DNN的鲁棒性，寻找深度学习的局限性的工作也在不断的进行中，特别是，研究如何侵入深度学习模型的方法不断增加，侵入深度学习能够促使深度学习分类错误或者识别错误。相关研究表明对抗样本干扰深度学习模型的情况在机器学习模型中普遍存在。具体而言，给定分类器 D，定义一个微小的扰动 r，将 r添加到原始图像中并放入分类器，预测结果不同于原本预测的标签，即分类器预测的图像类别是一个错误的类别。在实际生活当中，如果自动驾驶的识别系统被添加了对抗样本，使得汽车采取不期望和不适当的行为，这是非常危险的。由于对抗样本的强度大小间接反映了 DNN的鲁棒性，因此，有必要从对抗样本的角度出发提升机器学习的鲁棒性。

对抗样本的研究有助于理解分类器所使用的图像特征，但是这些对抗样本的存在与 DNN算法的泛化能力相矛盾。尽管 DNN在一些领域表现出了先进的性能，但是面对细微的扰动鲁棒性不高。面对人眼无法识别的扰动，如何判断图片是否被添加扰动是值得研究的。目前，研究人员通过范数判断对抗样本和原始图像的相似性来评估对抗样本的强度。除此之外，范数还被用作约束条件来约束对抗模型，在这个过程中，通过不断降低对抗样本的范数的值来优化对抗模型。然而，随着研究发现 ，范数在度量的过程中忽视了人类的视觉感知，并不适合用于评估对抗样本的强度。因此，如何有效的评价对抗样本图像质量是本领域技术人员需要解决的技术问题。

发明内容

为此，本发明的一个实施例提出一种对抗样本图像质量评价方法，以有效的评价对抗样本图像质量。

根据本发明一实施例的对抗样本图像质量评价方法，包括：

步骤1，通过分类器筛选出置信度大于置信度阈值的原始图像构建对抗样本数据集，利用多种对抗攻击方法攻击对抗样本数据集，通过调节不同攻击方法的参数得到对抗样本；

步骤2，计算对抗样本的残差图像，利用特征编码网络对原始图像、对抗样本和残差图像进行特征预提取，通过拼接将提取到原始图像、对抗样本和残差图像的特征图进行拼接得到新的特征图，进一步利用多尺度特征提取网络对新的特征图和对抗样本的特征图进行处理获取不同尺度的特征图；

步骤3，利用结构相似性度量方法度量不同尺度的特征图，获得对应的分数，最后平均化处理所有尺度的分数得到最终的质量分数。