[发明专利]神经网络模型的对抗样本生成方法及相关设备

说明书

本申请提供一种神经网络模型的对抗样本生成方法及相关设备，所述方法包括：基于生成对抗网络，首先获取与神经网络模型的攻击需求对应的原始数据集；之后对神经网络模型进行预训练，得到预训练模型；根据原始数据集对生成对抗网络的生成器、判别器和预训练模型进行迭代训练，最终得到目标生成器；并通过目标生成器生成对抗样本。该方法不受限于数据集的情况及具体模型，根据不同数据集的情况，可以对指定模型进行生成器的训练，方便地提升了对抗样本的生成效率。

技术领域

本申请涉及深度学习技术领域，尤其涉及一种神经网络模型的对抗样本生成方法及相关设备。

背景技术

近年来，深度神经网络作为人工智能的一个重要分支，在图像识别、语音识别、智能驾驶、医疗健康等领域都取得了惊人的成果。神经网络可以将原始数据转化为一种规律性模式，通过模拟大脑神经元进行建立连接、信息传递等过程。深度神经网络在如今大数据驱动的创新中，起到关键的推动作用。

研究发现，深度神经网络很容易受到微小输入扰动的干扰，这些干扰人类无法察觉却会引起机器的错误，这个引起错误的数据叫做对抗样本。对抗样本即在数据中加入细微扰动，会导致模型以较高的置信度给出错误的输出，这也是机器学习算法研究的一个盲点。对抗攻击现象的存在严重制约了神经网络的应用范围，在安全性要求高的场景中必须确保网络具有足够的鲁棒性。因此，为了保障神经网络的安全性，对抗样本的生成问题显得尤为重要。

发明内容

有鉴于此，本申请的目的在于提出一种神经网络模型的对抗样本生成方法及相关设备。

基于上述目的，本申请提供了一种神经网络模型的对抗样本生成方法，包括：

获取与所述神经网络模型的攻击需求对应的原始数据集；

根据所述原始数据集对所述神经网络模型进行预训练，得到预训练模型；

根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，响应于确定迭代后的所述判别器的损失达到预设的阈值，将迭代后的所述生成器作为目标生成器；

通过所述目标生成器生成所述对抗样本。

进一步的，所述根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，包括：

对于每一轮迭代训练执行如下操作：

对多维高斯分布进行采样，得到所述预训练模型的中间层的参数的多个候选解；

将所述预训练模型的中间层的参数替换为所述候选解，得到分别对应于多个所述候选解的多个候选神经网络模型；

根据多个所述候选神经网络模型的参数，从所述原始数据集中生成训练数据集；

根据所述训练数据集，从多个所述候选神经网络模型中选出目标神经网络模型；

将所述训练数据集输入到所述生成器中，得到所述训练数据集的扰动；

将所述训练数据集与所述扰动叠加，得到叠加数据集，将所述叠加数据集输入到所述判别器中，得到所述判别器的损失；根据所述叠加数据集对所述目标神经网络模型进行训练，得到新的目标神经网络模型；

根据所述新的目标神经网络模型的中间层的参数，对所述多维高斯分布进行更新得到下一轮迭代中的多维高斯分布；根据所述判别器的损失，对所述判别器进行更新得到下一轮迭代中的判别器；根据所述下一轮迭代中的判别器对所述生成器进行更新，得到下一轮迭代中的生成器。

进一步的，所述生成器通过蒸馏模型训练得到。

进一步的，所述候选神经网络模型的参数，包括：所述候选神经网络模型的隐藏层的层数、每层神经元的数量、输入层的结构和输出层的结构。

进一步的，所述判别器的损失通过交叉熵函数计算。