[发明专利]生成对抗样本的方法、装置、电子设备及计算机存储介质

权利要求书

1.一种生成对抗样本的方法，其特征在于，包括：

根据目标模型的初始对抗样本，生成至少一个第一对抗样本；

对于每一第一对抗样本，获取该第一对抗样本的第一特征信息及第一损失信息，所述第一特征信息为利用所述目标模型从该第一对抗样本提取的特征信息，所述第一损失信息为该第一对抗样本在所述目标模型中的损失信息；

根据每一第一对抗样本的第一特征信息及第一损失信息，为所述初始对抗样本生成干扰信息；

为所述初始对抗样本添加所述干扰信息，得到所述目标模型的目标对抗样本。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

获取所述初始对抗样本的初始特征信息及初始损失信息，所述初始特征信息为利用所述目标模型从所述初始对抗样本提取的特征信息，所述初始损失信息为所述初始对抗样本在所述目标模型中的损失信息；

则，所述根据每一第一对抗样本的第一特征信息及第一损失信息，为所述初始对抗样本生成干扰信息，包括：

根据每一第一对抗样本的第一特征信息及第一损失信息、以及所述初始对抗样本的初始特征信息及初始损失信息，为所述初始对抗样本生成干扰信息。

3.根据权利要求1所述的方法，其特征在于，所述根据目标模型的初始对抗样本，生成至少一个第一对抗样本，包括：

将所述初始对抗样本输入所述目标模型，得到所述目标模型输出的初始预测结果；

利用所述初始预测结果，对所述初始对抗样本进行迭代运算，生成至少一个第一对抗样本。

4.根据权利要求1所述的方法，其特征在于，所述获取该第一对抗样本的第一特征信息及第一损失信息，包括：

利用所述目标模型的特征提取层，获取该第一对抗样本的第一特征信息；

利用所述目标模型的损失函数，获取该第一对抗样本的第一损失信息。

5.根据权利要求2所述的方法，其特征在于，所述获取所述初始对抗样本的初始特征信息及初始损失信息，包括：

利用所述目标模型的特征提取层，获取所述初始对抗样本的初始特征信息；

利用所述目标模型的损失函数，获取所述初始对抗样本的初始损失信息。

6.根据权利要求2-4任一项所述的方法，其特征在于，所述根据每一第一对抗样本的第一特征信息及第一损失信息、以及所述初始对抗样本的初始特征信息及初始损失信息，为所述初始对抗样本生成干扰信息，包括：

对于每一第一对抗样本，确定该第一对抗样本的第一特征信息与所述初始对抗样本的初始特征信息之间的特征差异；

根据每一第一对抗样本对应的特征差异、每一第一对抗样本的第一损失信息以及所述初始对抗样本的初始损失信息，为所述初始对抗样本生成干扰信息。

7.根据权利要求6所述的方法，其特征在于，所述根据每一第一对抗样本对应的特征差异、每一第一对抗样本的第一损失信息以及所述初始对抗样本的初始损失信息，为所述初始对抗样本生成干扰信息，包括：

根据每一第一对抗样本对应的特征差异、每一第一对抗样本的第一损失信息以及所述初始对抗样本的初始损失信息，生成每一第一对抗样本和所述初始对抗样本各自对应的映射参数，所述映射参数反映了对应样本对所述目标模型的攻击程度；

根据每一第一对抗样本和所述初始对抗样本各自对应的映射参数，为所述初始对抗样本生成干扰信息。

8.根据权利要求7所述的方法，其特征在于，所述生成每一第一对抗样本和所述初始对抗样本各自对应的映射参数，包括：

通过函数最小化的方式，生成每一第一对抗样本和所述初始对抗样本各自对应的映射参数。

9.根据权利要求7所述的方法，其特征在于，所述为所述初始对抗样本生成干扰信息，包括：

通过函数最大化的方式，为所述初始对抗样本生成干扰信息。