[发明专利]神经网络模型的对抗样本生成方法及相关设备

权利要求书

1.一种神经网络模型的对抗样本生成方法，其特征在于，包括：

获取与所述神经网络模型的攻击需求对应的原始数据集；

根据所述原始数据集对所述神经网络模型进行预训练，得到预训练模型；

根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，响应于确定迭代后的所述判别器的损失达到预设的阈值，将迭代后的所述生成器作为目标生成器；

通过所述目标生成器生成所述对抗样本。

2.根据权利要求1所述的方法，其特征在于，所述根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，包括：

对于每一轮迭代训练执行如下操作：

对多维高斯分布进行采样，得到所述预训练模型的中间层的参数的多个候选解；

将所述预训练模型的中间层的参数替换为所述候选解，得到分别对应于多个所述候选解的多个候选神经网络模型；

根据多个所述候选神经网络模型的参数，从所述原始数据集中生成训练数据集；

根据所述训练数据集，从多个所述候选神经网络模型中选出目标神经网络模型；

将所述训练数据集输入到所述生成器中，得到所述训练数据集的扰动；

将所述训练数据集与所述扰动叠加，得到叠加数据集，将所述叠加数据集输入到所述判别器中，得到所述判别器的损失；根据所述叠加数据集对所述目标神经网络模型进行训练，得到新的目标神经网络模型；

根据所述新的目标神经网络模型的中间层的参数，对所述多维高斯分布进行更新得到下一轮迭代中的多维高斯分布；根据所述判别器的损失，对所述判别器进行更新得到下一轮迭代中的判别器；根据所述下一轮迭代中的判别器对所述生成器进行更新，得到下一轮迭代中的生成器。

3.根据权利要求1所述的方法，其特征在于，所述生成器通过蒸馏模型训练得到。

4.根据权利要求2所述的方法，其特征在于，所述候选神经网络模型的参数，包括：所述候选神经网络模型的隐藏层的层数、每层神经元的数量、输入层的结构和输出层的结构。

5.根据权利要求2所述的方法，其特征在于，所述判别器的损失通过交叉熵函数计算。

6.根据权利要求2所述的方法，其特征在于，所述根据所述判别器的损失，对所述判别器进行更新得到下一轮迭代中的判别器，包括：

根据所述判别器的损失，通过Wasserstein距离对所述判别器的损失函数进行优化，得到所述下一轮迭代中的判别器。

7.根据权利要求1所述的方法，其特征在于，所述根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，响应于确定迭代后的所述判别器的损失达到预设的阈值，将迭代后的所述生成器作为目标生成器，还包括：

预先设置迭代轮数阈值，当迭代轮数达到所述迭代轮数阈值时，停止迭代训练，输出这一轮迭代训练出的生成器作为所述目标生成器。

8.一种神经网络模型的对抗样本生成装置，其特征在于，包括：

获取模块，被配置为获取与所述神经网络模型的攻击需求对应的原始数据集；

预训练模块，被配置为根据所述原始数据集对所述神经网络模型进行预训练，得到预训练模型；

迭代模块，被配置为根据所述原始数据集对生成器、判别器和所述预训练模型进行迭代训练，响应于确定迭代后的所述判别器的损失达到预设的阈值，将迭代后的所述生成器作为目标生成器；

生成模块，被配置为通过所述目标生成器生成所述对抗样本。

9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可由所述处理器执行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任意一项所述的方法。

10.一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质存储计算机指令，其特征在于，所述计算机指令用于使计算机执行根据权利要求1至7中任意一项所述的方法。