[发明专利]对抗样本生成方法、模型训练方法、处理方法及电子设备

说明书

本发明提供一种对抗样本生成方法，包括：基于空间注意力机制，对与当前轮迭代对应的图像特征数据进行第一处理，得到与当前轮迭代对应的图像的第一图像特征向量；对与当前轮迭代对应的图像的图像特征数据进行第二处理，得到与当前轮迭代对应的图像的第二图像特征向量；对由分散度函数和特征通道权重函数构成的函数组进行求导，基于求导后的函数组，根据与当前轮迭代对应的图像的第二图像特征向量和与当前轮迭代对应的图像的第一图像特征向量，得到与当前轮迭代对应的图像的梯度值，根据与当前轮迭代对应的图像的梯度值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像；将满足预定迭代条件的图像确定为对抗样本。本发明还提供一种电子设备。

技术领域

本发明涉及人工智能及机器学习技术领域，具体地涉及一种对抗样本生成方法、模型训练方法、处理方法及电子设备。

背景技术

对抗攻击技术是针对输入样本生成具有人类视觉系统上不可见扰动的图像，使得深度分类模型做出错误判断。对抗攻击在深度神经模型稳健性评估、安全漏洞捕捉等领域有着广泛的应用，尤其是在自动驾驶、姿态检测或数据分析等应用场景。

目前传统的对抗样本生成方法通常是基于分类模型，利用分类模型，将图像输入分类模型中计算相应的损失函数，然后将引导生成使损失函数趋向于较差情况的扰动叠加到输入图像上，使得深度模型分类错误（亦称为攻击成功）。然而传统方法的这一过程非常依赖于分类模型最后的损失函数输出，会使得生成的对抗样本对分类模型过拟合，缺乏对其他任务模型的泛化性（例如检测、分割等），也会降低深度分类模型对对抗样本的鲁棒性，同时也限制了生成的对抗样本迁移性以及在一些实际部署的多任务融合场景中的实用性和拓展性。

发明内容

鉴于上述问题，本发明提供了一种对抗样本生成方法、模型训练方法、图像处理方法及电子设备。

本发明的一方面提供了一种对抗样本生成方法，包括：基于空间注意力机制，对与当前轮迭代对应的图像的图像特征数据进行第一处理，得到与当前轮迭代对应的图像的第一图像特征向量；对与当前轮迭代对应的图像的图像特征数据进行第二处理，得到与当前轮迭代对应的图像的第二图像特征向量；对由分散度函数和特征通道权重函数构成的函数组进行求导，得到求导后的函数组，基于求导后的函数组，根据与当前轮迭代对应的图像的第二图像特征向量和与当前轮迭代对应的图像的第一图像特征向量，得到与当前轮迭代对应的图像的梯度值，其中，分散度函数是用于基于与每轮迭代对应的图像的第一图像特征向量计算分散度的函数，特征通道权重函数是用于基于通道注意力机制，根据与每轮迭代对应的图像的第二图像特征向量计算特征通道权重的函数；根据与当前轮迭代对应的图像的梯度值和与当前轮迭代对应的图像，得到与下一轮迭代对应的图像；将满足预定迭代条件的图像确定为对抗样本。

可选地，基于空间注意力机制，对与当前轮迭代对应的图像的图像特征数据进行第一处理，得到与当前轮迭代对应的图像的第一图像特征向量，包括：根据与当前轮迭代对应的图像，得到与当前轮迭代对应的图像的第一中间图像特征向量；基于空间注意力机制，对与当前轮迭代对应的图像进行特征提取，得到与当前轮迭代对应的图像的空间注意力权重矩阵；根据与当前轮迭代对应的图像的第一中间图像特征向量和与当前轮迭代对应的图像的空间注意力权重矩阵，得到与当前轮迭代对应的图像的第一图像特征向量。

可选地，第一图像特征向量包含多个通道对应的第一特征向量；分散度函数是用于基于与每轮迭代对应的图像的第一图像特征向量计算分散度的函数，包括：对第一图像特征向量中的多个通道对应的第一特征向量进行第一特征转换处理，得到第一图像特征向量中的每个通道对应的第一中间特征向量；对第一图像特征向量中的每个通道对应的第一中间特征向量进行计算，得到第一图像特征向量中的每个通道对应的第一中间特征向量的分散度；将第一图像特征向量中的每个通道对应的第一中间特征向量的分散度构建分散度矩阵，得到与每轮迭代对应的图像的第一图像特征向量的分散度。