[发明专利]一种图像识别模型隐私风险的评估方法、装置及电子设备

说明书

本说明书实施例提供一种图像识别模型隐私风险的评估方法。其中，方法包括：基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据。将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练。基于所述目标对象对应的原始图像和逆向图像的相似度，评估所述图像识别模型的隐私风险。

技术领域

本文件涉及数据安全技术领域，尤其涉及一种图像识别模型隐私风险的评估方法。

背景技术

深度学习模型凭借具有机械化处理信息的能力，已得到了越来越广泛的使用。图像识别模型(例如人脸识别模型)就是其中一种常见的业务形态化的模型。图像识别模型的原理是对待识别对象的图像特征与样本对象的图像特征进行近似匹配，从而确定出待识别对象的身份。

现阶段，图像识别模型的构建尚未考虑隐私性的问题，模型参数一但公开，存在对图像特征进行模型逆向工程，还原回图像的可能。在很多业务场景中，这些图像属于隐私信息，为此，当前亟需一种针对图像识别模型隐私风险的评估方案，可为图像识别模型的投放策略提供一定参考。

发明内容

本说明书实施例目的是提供一种图像识别模型隐私风险的评估方法，能够评估图像识别模型是否存在隐私风险。

为了实现上述目的，本说明书实施例是这样实现的：

第一方面，提供一种图像识别模型隐私风险的评估方法，包括：

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练；

基于所述目标对象对应的原始图像和逆向图像的相似度，评估所述图像识别模型的隐私风险。

第二方面，提供一种图像识别模型隐私风险的评估装置，包括：

特征获取模块，基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

图像还原模块，将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练；

隐私评估模块，基于所述目标对象对应的原始图像和逆向图像，评估所述图像识别模型的隐私风险。

第三方面，提供一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练；

基于所述目标对象对应的原始图像和逆向图像的相似度，评估所述图像识别模型的隐私风险。