[发明专利]对抗样本图像的确定方法、装置、电子设备及存储介质

说明书

本公开涉及一种对抗样本图像的确定方法、装置、电子设备及存储介质，上述方法包括：获取原始图像，并通过降维算法将所述原始图像转换为原始图像流形；调用图像搜索函数，以根据所述原始图像流形确定目标图像；通过神经网络模型，根据所述原始图像流形和所述目标图像，确定对抗样本图像，其中，所述神经网络模型已通过训练，学习到并保存有所述神经网络模型输入的图像和输出的目标特征之间的对应关系，所述对抗样本图像通过在所述神经网络模型的特征空间进行度量学习确定。采用上述技术手段，解决现有技术中，在生成对抗样本时，容易过度拟合训练模型的结构，从而造成相对较低的迁移性等问题。

技术领域

本公开涉及通信领域，尤其涉及一种对抗样本图像的确定方法、装置、电子设备及存储介质。

背景技术

近年来，人工智能取得了长足的进步，已被广泛用于医疗、交通、智能手机等各个领域。然而，机遇与挑战并存，人工智能的安全性问题也日益凸显，尤其是一些新型的安全问题，比如在样本空间生成具有攻击性的对抗样本技术近年来受到越来越多的关注。对抗样本是指攻击者在原始样本上恶意添加一些微小的扰动所生成的样本，能使得机器学习模型产生错误的输出。此外，在一个模型上构建的对抗样本可以成功地攻击具有不同架构和参数的另一个模型，这被称为迁移性。很多时候需要对抗样本具有较高的迁移性，但是传统技术中，容易过度拟合训练模型的结构，从而造成相对较低的迁移性。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：在生成对抗样本时，容易过度拟合训练模型的结构，从而造成相对较低的迁移性等问题。

发明内容

为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种对抗样本图像的确定方法、装置、电子设备及存储介质，以至少解决现有技术中，在生成对抗样本时，容易过度拟合训练模型的结构，从而造成相对较低的迁移性等问题。

本公开的目的是通过以下技术方案实现的：

第一方面，本公开的实施例提供了一种对抗样本图像的确定方法，包括：获取原始图像，并通过降维算法将所述原始图像转换为原始图像流形；调用图像搜索函数，以根据所述原始图像流形确定目标图像；通过神经网络模型，根据所述原始图像流形和所述目标图像，确定对抗样本图像，其中，所述神经网络模型已通过训练，学习到并保存有所述神经网络模型输入的图像和输出的目标特征之间的对应关系，所述对抗样本图像通过在所述神经网络模型的特征空间进行度量学习确定。

在一个示例性实施例中，所述通过降维算法将所述原始图像转换为原始图像流形，包括：将所述原始图像转换为所述原始图像对应的数据矩阵；求解所述数据矩阵的协方差矩阵，并求解所述协方差矩阵的特征值和特征向量；根据所述协方差矩阵的特征值和特征向量确定所述原始图像流形。

在一个示例性实施例中，所述调用图像搜索函数，以根据所述原始图像流形确定目标图像，包括：以所述目标图像和攻击图像的相似度为最优化目标，以所述原始图像与所述目标图像的差值大小为约束条件，根据所述原始图像流形确定目标图像，其中，所述攻击图像是所述对抗样本图像对应的攻击目标或者攻击目标类别对应的图像。

在一个示例性实施例中，包括：所述最优化目标：

；

所述约束条件：

；

其中，x_t为所述目标图像，y_t为攻击图像，g_w为所述神经网络模型，L为分类损失函数，L函数可表示为：

；

其中，x_s为所述原始图像，γ为所述神经网络模型的第一超参数，为预设常数，是对的结果做取范数运算。