[发明专利]图像分类网络的对抗防御方法及相关装置

说明书

本申请是关于一种图像分类网络的对抗防御方法及相关装置，属于图像分类技术领域，该方法包括：将原始图像样本及对抗攻击样本输入深度神经网络，以提取所述深度神经网络高于预定层数的目标层的输入特征；根据所述输入特征生成所述深度神经网络的损失函数，作为对抗防御去噪器；利用所述对抗防御去噪器对所述对抗攻击样本进行去噪，得到去噪后对抗攻击样本；对所述深度神经网络的损失函数进行正则化，得到正则化后的深度神经网络；将所述原始图像样本及所述去噪后对抗攻击样本，输入所述正则化后的深度神经网络，得到所述原始图像的分类结果。本申请的方案可以有效提升图像分类深度神经网络的防御能力。

技术领域

本申请涉及图像分类技术领域，具体而言，涉及一种图像分类网络的对抗防御方法及相关装置。

背景技术

随着在图像、语音和视频等领域的深度应用，深度神经网络对信息安全的要求也就越来越高，尽管深度神经网络可以在进行图像分类的过程中可以有非常高的准确率表现，但往往对样本加入轻微的噪声扰动就会造成神经网络的分类错误问题。由于其易受对抗样本攻击的特点也就要求深度神经网络提升防御能力，降低对抗样本欺骗网络的可能性。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本申请的目的在于提供一种图像分类网络的对抗防御方案，进而至少在一定程度上提升图像分类深度神经网络的防御能力。

根据本申请的一个方面，提供一种图像分类网络的对抗防御方法，包括：

将原始图像样本及对抗攻击样本输入深度神经网络，以提取所述深度神经网络高于预定层数的目标层的输入特征；

根据所述输入特征生成所述深度神经网络的损失函数，作为对抗防御去噪器；

利用所述对抗防御去噪器对所述对抗攻击样本进行去噪，得到去噪后对抗攻击样本；

对所述深度神经网络的损失函数进行正则化，得到正则化后的深度神经网络；

将所述原始图像样本及所述去噪后对抗攻击样本，输入所述正则化后的深度神经网络，得到所述原始图像的分类结果。

在本示例的一种实施方式中，所述对抗攻击样本包括：

当接收到原始图像样本，对所述原始图像样本施加噪声，得到与所述原始图像样本对应的对抗攻击样本。

在本示例的一种实施方式中，所述对抗攻击样本包括：

当接收到原始图像样本，利用对应于多种深度神经网络的噪声添加手段对所述原始图像样本添加噪声，得到多个对抗攻击样本；

所述将原始图像样本及对抗攻击样本输入深度神经网络，以提取所述深度神经网络高于预定层数的目标层的输入特征，包括：

将原始图像样本及每个所述对抗攻击样本分别输入深度神经网络，分别提取深度神经网络高于预定层数的目标层的子输入特征；

获取所有子输入特征的集合，作为所述输入特征。

在本示例的一种实施方式中，所述将原始图像样本及对抗攻击样本输入深度神经网络包括：

调整所述原始图像样本及所述对抗攻击样本的网络参数一致；

将网络参数调整一致的所述原始图像样本及所述对抗攻击样本输入深度神经网络。

在本示例的一种实施方式中，所述根据所述输入特征生成所述深度神经网络的损失函数，作为对抗防御去噪器，包括：