[发明专利]一种图像识别模型隐私风险的评估方法、装置及电子设备

权利要求书

1.一种图像识别模型隐私风险的评估方法，包括：

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练；

基于所述目标对象对应的原始图像和逆向图像的相似度，评估所述图像识别模型的隐私风险。

2.根据权利要求1所述的方法，

所述样本对象在对应的原始图像中的至少部分特征数据是基于所述图像识别模型中的输入向量，对所述样本对象对应的原始图像进行特征提取获得的。

3.根据权利要求1所述的方法，

所述图像识别模型的隐私风险的评估结果用于确定所述图像识别模型的投放策略。

4.根据权利要求1-3中任一项所述的方法，

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据，包括：

基于图像识别模型的嵌入层中的输入向量，对目标对象对应的原始图像进行特征提取。

5.根据权利要求1-3中任一项所述的方法，

基于所述目标对象对应的原始图像和逆向图像，评估所述图像识别模型的隐私风险，包括：

计算所述目标对象对应的原始图像和逆向图像之间的数学距离；

基于所述数学距离，确定所述图像识别模型的隐私风险，其中，所述数学距离取值大小与所述图像识别模型的隐私风险程度呈负相关。

6.根据权利要求5中所述的方法，

所述数学距离包括欧氏距离、曼哈顿距离、切比雪夫距离、汉明距离中的至少一者。

7.根据权利要求1-3中任一项所述的方法，

所述逆向模型包括变分自编码器模型和生成对抗网络模型中的至少一者。

8.根据权利要求1-3中任一项所述的方法，

图像识别模型为人脸识别模型，所述目标对象和所述样本对象对应的原始图像均属于人脸图像。

9.一种图像识别模型隐私风险的评估装置，包括：

特征获取模块，基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

图像还原模块，将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有与所述图像识别模型中的输入向量相反表达的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入进行训练；

隐私评估模块，基于所述目标对象对应的原始图像和逆向图像，评估所述图像识别模型的隐私风险。

10.一种电子设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行：

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有所述图像识别模型中的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入训练得到的；

基于所述目标对象对应的原始图像和逆向图像，评估所述图像识别模型的隐私风险。

11.一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如下步骤：

基于图像识别模型中的输入向量，对目标对象对应的原始图像进行特征提取，得到所述目标对象的特征数据；

将所述目标对象的特征数据输入至所述图像识别模型对应的逆向模型，得到所述目标对象对应的逆向图像，其中，所述逆向模型具有所述图像识别模型中的输入向量，并以样本对象对应的原始图像为输出、所述样本对象在对应的原始图像中的特征数据为输入训练得到的；

基于所述目标对象对应的原始图像和逆向图像，评估所述图像识别模型的隐私风险。