[发明专利]一种数据标注中的数据保护方法及系统

权利要求书

1.一种数据标注中的数据保护方法，其特征在于，包括步骤：

至少一个数据提供方对其提供的原始数据进行数据保护处理，包括：在原始数据中加入自然人无法识别且不影响标注操作的干扰信息和/或跟踪信息，以形成用于标注的数据；

至少一个数据标注方对所述用于标注的数据进行标注，以形成标注数据，并建立原始数据和标注数据的对应关系；

将所述原始数据、标注数据对应的元数据、以及原始数据和标注数据的对应关系保存至标注管理中心的元数据库中；

标注管理中心根据数据需求方的数据需求和算法需求，和元数据库中的元数据进行匹配，以检测是否能满足数据需求方的要求；若匹配不成功，则通知数据提供方和数据标注方对数据进行处理，并重新匹配；若匹配成功，则协调各数据提供方和数据标注方提供原始数据以及标注数据以用于计算；

数据需求方从标注管理中心中选用已有算法或通过算法接入网关提交新的算法给标注管理中心；

利用所述原始数据以及标注数据在安全环境下计算得到计算结果；

将所述计算结果提供至数据需求方。

2.根据权利要求1所述的方法，其特征在于，还包括检查步骤：

数据检查方对原始数据和标注数据进行检查，对标注数据的质量进行检查，建立原始数据、标注数据和检查数据的对应关系，并将所述检查数据对应的元数据、以及所述对应关系保存至元数据库中。

3.根据权利要求1或2所述的方法，其特征在于，各用户端将其提供的数据保存在各自的数据库中；所述用户端包括数据提供方、数据标注方、数据检查方和数据需求方。

4.根据权利要求3所述的方法，其特征在于，所述在原始数据中加入自然人无法识别且不影响标注操作的干扰信息，包括：

针对图像和视频数据，添加人为设计的扰动，以跨越深度神经网络的决策边界，以此构成对抗样本，误导深度神经网络为基础算法模型的应用；和/或

针对声音数据，采用变声变调方法对原始数据进行处理，和/或对声音加入亚音频进行处理；和/或

针对文本数据，将文本数据转换为图像数据，再采用针对图像数据的处理方法进行处理。

5.根据权利要求4所述的方法，其特征在于，针对人脸的图像和视频数据，采用Fawkes方法对原始数据进行像素级别的修改。

6.根据权利要求5所述的方法，其特征在于，所述在原始数据中加入自然人无法识别且不影响标注操作的跟踪信息，包括：

针对声音数据，对声音加入亚音频进行处理；

针对图像和视频数据，采用频域手段增加数字盲水印。

7.根据权利要求1所述的方法，其特征在于，在利用所述原始数据以及标注数据计算得到计算结果之前，还包括：

若数据需求方存在需要参与计算的数据，则将所述参与计算的数据的元数据提交至所述元数据库；

对所述提交的数据进行检测和审计，通过后进行计算；

所述计算包括在安全计算环境下，采用保护隐私的计算方法进行计算。