[发明专利]数据防窃取方法和相关产品

说明书

本申请实施例公开了人工智能领域中的一种数据防窃取方法和相关产品，该方法可包括：获取目标数据；将所述目标数据输入至识别模型进行识别处理，得到第一标签；所述第一标签为所述目标数据所属的标签，所述识别处理包括：所述识别模型对所述目标数据进行特征提取处理以得到第一特征向量；所述识别模型根据所述第一特征向量，预测得到所述第一标签；在确定存在第二特征向量的情况下，输出目标标签；所述第二特征向量为与所述第一特征向量之间的距离小于第一阈值的特征向量，且其经由所述识别模型预测得到的第二标签与所述第一标签不同；所述目标标签为对所述第一标签进行扰动处理得到的标签；可以有效防止识别模型(一种AI模型)的参数被获取。

技术领域

本申请涉及人工智能领域，尤其涉及一种数据防窃取方法和相关产品。

背景技术

随着人工智能(Artificial Intelligence,AI)的快速发展，机器学习系统逐渐开始在语音识别、图像处理、医疗决策、系统安全等领域发挥重大作用。目前，许多机器学习服务提供商通过收集大量的标注数据来训练一个高效的AI模型，并将AI模型预测服务封装成特定接口供外部调用。例如阿里云图像识别，腾讯云文字识别，百度AI语音识别等等。AI模型本身的安全问题引起了很多研究人员的注意，例如模型窃取攻击。

模型窃取攻击是指攻击者通过分析机器学习系统(即AI模型)的输入(即查询内容)、输出(即输出的标签或者分数)和其他外部信息(例如网络类型、网络结构等)，推测出该机器学习系统的网络参数。模型窃取攻击会造成一些安全问题，例如知识产权的窃取、数据泄露等。样本收集和训练AI模型需要耗费大量的计算资源和人力调参，训练出来的AI模型是重要的知识产权。模型窃取攻击会使得AI模型持有者遭受财产损失。另外，攻击者根据被窃取的AI模型，进行推理攻击会造成训练样本中的个人数据泄露。例如通过推断特定人员是否存在于训练某种疾病网络的训练样本中，从而可以判断受害人是否患有该疾病。因此，一套行之有效的AI模型防窃取技术对机器学习服务商来说尤为重要。

为防止AI模型的参数被窃取，Kesarwani等人提出了一种基于监测用户查询记录的窃取风险系统。该窃取风险系统实现的一种监控方法是通过监测用户的查询在特征空间的覆盖率来发出高窃取风险预警。在该监控方法中，该窃取风险系统根据用户发起的查询历史，计算出整体的特征覆盖区域；当个体的覆盖率或者多个共同的覆盖率达到预设上限，系统就会发出高窃取风险预警。然而，在该监控方法至少存在以下缺点：1)需要假设用户合谋的情况，因此要同时考虑多个用户查询分布且要并发处理，复杂度高；2)主要通过提前中断了可疑用户的服务达到保护，容易产生大量的误报，并且每一个已经返回的查询结果是没有得到保护的。因此，需要研究新的AI模型防窃取方法。

发明内容

本申请实施例公开了一种数据防窃取方法和相关产品，可以有效防止识别模型(一种AI模型)的参数被获取。

第一方面，本申请实施例提供了一种数据防窃取方法，该方法可包括：获取目标数据，该目标数据包括一个或多个计算机可处理的信号；将该目标数据输入至识别模型进行识别处理，得到第一标签；该第一标签为该目标数据所属的标签，该识别处理包括：该识别模型对该目标数据进行特征提取处理以得到第一特征向量；该识别模型根据该第一特征向量，预测得到该第一标签；在确定存在第二特征向量的情况下，输出目标标签；该第二特征向量为与该第一特征向量之间的距离小于第一阈值的特征向量，且其经由该识别模型预测得到的第二标签与该第一标签不同；该目标标签为对该第一标签进行扰动处理得到的标签。