[发明专利]对抗样本的生成方法、装置、设备及存储介质

说明书

本申请提出了一种对抗样本的生成方法、装置、设备及存储介质，其中，方法包括：将第一人脸图像及所述初始对抗样本进行融合，以生成第二人脸图像；利用K个人脸识别模型分别对第一人脸图像及第二人脸图像进行特征提取，分别生成第一人脸图像对应的参考特征及所述第二人脸图像对应的第一特征；根据第一特征与参考特征间的第一差异度，对初始对抗样本进行更新，以生成更新后的对抗样本；基于上述步骤进行迭代更新，以生成目标对抗样本。根据本申请的方案，能够生成更泛用的对抗样本，适应真实场景下人脸识别模型未知的情况。进一步，将生成的对抗样本用于人脸识别模型的测试或训练，可以使人脸识别模型防御基于前述对抗样本的攻击。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种对抗样本的生成方法、装置、设备及存储介质。

背景技术

近年来，针对深度学习模型的对抗攻击技术快速发展，研究表明，神经网络易受到对抗样本的攻击，以人脸识别系统为例，通过在原始图像中施加一定的扰动，可以使人脸识别系统做出错误的判断。由于人脸识别在打击犯罪和保护财产安全中起到巨大作用，因此，研究人脸识别系统的对抗攻击具有重要意义。

目前，针对人脸识别的对抗样本的研究主要集中在数字层面，而在真实场景中，由于人脸识别模型通常是未知的，相关技术中生成的对抗样本在真实场景下对人脸识别模型的攻击效果无法保证。因此，需要一种能够适应真实场景需求的对抗样本及防御对抗攻击的方案。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请提出了一种对抗样本的生成方法、装置、设备及存储介质，能够生成更泛用的对抗样本，适应真实场景下人脸识别模型未知的情况。

本申请第一方面实施例提出了一种对抗样本的生成方法，包括：

获取第一人脸图像及初始对抗样本；

将所述第一人脸图像及所述初始对抗样本进行融合，以生成第二人脸图像；

利用K个人脸识别模型分别对所述第一人脸图像及所述第二人脸图像进行特征提取，以分别生成所述第一人脸图像对应的参考特征及所述第二人脸图像对应的第一特征，其中，K为大于1的整数；

根据所述第一特征与所述参考特征间的第一差异度，对所述初始对抗样本进行更新，以生成更新后的对抗样本；

基于所述更新后的对抗样本，重复执行上述过程，直至所述第一特征与所述参考特征间的第一差异度大于阈值，将当前的更新后的对抗样本作为目标对抗样本。

本申请第二方面实施例提出了一种对抗样本的生成装置，包括：

获取模块，用于获取第一人脸图像及初始对抗样本；

生成模块，用于将所述第一人脸图像及所述初始对抗样本进行融合，以生成第二人脸图像；

提取模块，用于利用K个人脸识别模型分别对所述第一人脸图像及所述第二人脸图像进行特征提取，以分别生成所述第一人脸图像对应的参考特征及所述第二人脸图像对应的第一特征，其中，K为大于1的整数；

更新模块，用于根据所述第一特征与所述参考特征间的第一差异度，对所述初始对抗样本进行更新，以生成更新后的对抗样本；

迭代模块，用于基于所述更新后的对抗样本，重复执行上述过程，直至所述第一特征与所述参考特征间的第一差异度大于阈值，将当前的更新后的对抗样本作为目标对抗样本。

本申请第三方面实施例提出了一种电子设备，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面实施例所述的对抗样本的生成方法。