[发明专利]数据防窃取方法和相关产品在审
申请号: | 201910897929.1 | 申请日: | 2019-09-20 |
公开(公告)号: | CN110795703A | 公开(公告)日: | 2020-02-14 |
发明(设计)人: | 胡海波;郑桦迪;叶青青;方成方;时杰 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F21/14 | 分类号: | G06F21/14;G06F21/60;G06F21/62;G06N20/00;G06K9/62;G06K9/46 |
代理公司: | 44202 广州三环专利商标代理有限公司 | 代理人: | 郝传鑫;熊永强 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 标签 特征向量 目标数据 人工智能领域 获取目标 模型预测 目标标签 输出目标 特征提取 扰动 窃取 预测 申请 | ||
1.一种数据防窃取方法,其特征在于,包括:
获取目标数据,所述目标数据包括一个或多个计算机可处理的信号;
将所述目标数据输入至识别模型进行识别处理,得到第一标签;所述第一标签为所述目标数据所属的标签,所述识别处理包括:所述识别模型对所述目标数据进行特征提取处理以得到第一特征向量;所述识别模型根据所述第一特征向量,预测得到所述第一标签;
在确定存在第二特征向量的情况下,输出目标标签;所述第二特征向量为与所述第一特征向量之间的距离小于第一阈值的特征向量,且其经由所述识别模型预测得到的第二标签与所述第一标签不同;所述目标标签为对所述第一标签进行扰动处理得到的标签。
2.根据权利要求1所述的方法,其特征在于,所述确定存在第二特征向量的情况包括:
获得与所述第一特征向量之间的距离小于所述第一阈值的特征向量,得到第三特征向量;
利用所述识别模型根据所述第三特征向量,预测得到第三标签;
在所述第一标签和所述第三标签不同的情况下,确定所述第三特征向量为所述第二特征向量。
3.根据权利要求1或2所述的方法,其特征在于,所述第一特征向量包括N个特征值,每个特征值对应一个维度,N为大于1的整数;所述获得与所述第一特征向量之间的距离小于所述第一阈值的特征向量,得到第三特征向量包括:
将所述第一特征向量包括的任一维度的特征值增加或减少第二阈值以得到所述第三特征向量;所述第二阈值小于所述第一阈值。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述输出目标标签包括:
采用随机算法以第一概率输出所述第一标签,以第二概率输出第四标签;所述第四标签与所述第一标签不同,所述第一概率和所述第二概率之和为1。
5.根据权利要求4所述的方法,其特征在于,所述随机算法提供ε-差分隐私保护;其中,参数ε称为隐私保护预算。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述将目标数据输入至识别模型进行识别处理,得到第一标签之后,所述方法还包括:
在确定未存在所述第二特征向量的情况下,输出所述第一标签。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述将目标数据输入至识别模型进行识别处理,得到第一标签之前,所述方法还包括:
查询历史记录数据库中是否存在所述目标数据的历史处理记录,所述历史处理记录包括所述目标数据所属的标签;
若否,执行所述将目标数据输入至识别模型进行识别处理,得到第一标签的操作。
8.根据权利要求1至7任一项所述的方法,其特征在于,所述一个或多个计算机可处理的信号包括:语音信号、文本信号或图像信号中的至少一项。
9.一种数据防窃取方法,其特征在于,包括:
将目标图像输入至识别模型进行识别处理,得到第一标签;所述第一标签为所述目标图像所属的标签,所述识别处理包括:所述识别模型对所述目标图像进行特征提取处理以得到第一特征向量;所述识别模型根据所述第一特征向量,预测得到所述第一标签;
在确定存在第二特征向量的情况下,输出目标标签;所述第二特征向量为与所述第一特征向量之间的距离小于第一阈值的特征向量,且其经由所述识别模型预测得到的第二标签与所述第一标签不同;所述目标标签为对所述第一标签进行扰动处理得到的标签。
10.根据权利要求1所述的方法,其特征在于,所述将目标图像输入至识别模型进行识别处理,得到第一标签之前,所述方法还包括:
接收来自终端设备的所述目标图像;
所述输出目标标签包括:
向所述终端设备发送所述目标标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910897929.1/1.html,转载请声明来源钻瓜专利网。