[发明专利]生成对抗样本的方法、装置、电子设备及计算机存储介质

说明书

本公开提供了一种生成对抗样本的方法、装置、电子设备及计算机存储介质，涉及机器学习领域。该方法包括：根据目标模型的初始对抗样本，生成至少一个第一对抗样本；对于每一第一对抗样本，获取该第一对抗样本的第一特征信息及第一损失信息，第一特征信息为利用目标模型从该第一对抗样本提取的特征信息，第一损失信息为该第一对抗样本在目标模型中的损失信息；根据每一第一对抗样本的第一特征信息及第一损失信息，为初始对抗样本生成干扰信息；为初始对抗样本添加干扰信息，得到目标模型的目标对抗样本。本公开生成的目标对抗样本可以提高目标模型的可靠性和鲁棒性。

技术领域

本公开涉及机器学习技术领域，具体而言，本公开涉及一种生成对抗样本的方法、装置、电子设备及计算机存储介质。

背景技术

随着机器学习和人工智能的迅猛发展，机器学习技术已被广泛地应用到各种领域。

对抗攻击是当前机器学习领域研究的一个热点问题。对抗攻击的原理是通过对抗样本来欺骗深度神经网络，使其做出错误判定。其中，对抗样本是向原数据样本中添加经过精心训练的人眼不易察觉的微小扰动得到的新样本。

对抗样本在评估和改善深度神经网络的可靠性和鲁棒性中起着至关重要的作用，但利用现有技术中生成的对抗样本对模型进行训练时，不能较好的提升模型的可靠性和鲁棒性。

发明内容

本公开提供了一种生成对抗样本的方法、装置、电子设备及计算机存储介质，利用生成的对抗样本对目标模型进行训练，可以提高目标模型的可靠性和鲁棒性。技术方案如下：

第一方面，提供了一种生成对抗样本的方法，该方法包括：

根据目标模型的初始对抗样本，生成至少一个第一对抗样本；

对于每一第一对抗样本，获取该第一对抗样本的第一特征信息及第一损失信息，第一特征信息为利用目标模型从该第一对抗样本提取的特征信息，第一损失信息为该第一对抗样本在目标模型中的损失信息；

根据每一第一对抗样本的第一特征信息及第一损失信息，为初始对抗样本生成干扰信息；

为初始对抗样本添加干扰信息，得到目标模型的目标对抗样本。

第二方面，提供了一种生成对抗样本的装置，该装置包括：

第一生成模块，用于根据目标模型的初始对抗样本，生成至少一个第一对抗样本；

第一获取模块，用于对于每一第一对抗样本，获取该第一对抗样本的第一特征信息及第一损失信息，第一特征信息为利用目标模型从该第一对抗样本提取的特征信息，第一损失信息为该第一对抗样本在目标模型中的损失信息；

第二生成模块，用于根据每一第一对抗样本的第一特征信息及第一损失信息，为初始对抗样本生成干扰信息；

添加模块，用于为初始对抗样本添加干扰信息，得到目标模型的目标对抗样本。

第三方面，提供了一种电子设备，该电子设备包括：

一个或多个处理器；

存储器；

一个或多个应用程序，其中一个或多个应用程序被存储在存储器中并被配置为由一个或多个处理器执行，一个或多个程序配置用于执行本公开第一方面所示的生成对抗样本的方法对应的操作。

第四方面，提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现本公开第一方面所示的生成对抗样本的方法。

本公开提供的技术方案带来的有益效果是：