[发明专利]在数据隐私保护下执行机器学习的方法和系统

说明书

提供了一种在数据隐私保护下执行机器学习的方法和系统，所述方法包括：获取目标数据集；获取关于源数据集的迁移项，其中，所述迁移项用于在源数据隐私保护方式下将源数据集的知识迁移到目标数据集以在目标数据集上训练目标机器学习模型；以及在目标数据隐私保护方式下，基于目标数据集，结合所述迁移项来训练目标机器学习模型。

技术领域

本申请要求申请号为201810939380.3，申请日为2018年8月17日，名称为“在数据隐私保护下执行机器学习的方法和系统”的中国专利申请的优先权。本发明总体说来涉及人工智能领域中的数据安全技术，更具体地说，涉及一种在数据隐私保护下执行机器学习的方法和系统。

背景技术

众所周知，机器学习往往需要大量的数据以通过计算的手段从大量数据中挖掘出有价值的潜在信息。尽管随着信息技术的发展产生了海量的数据，然而，当前环境下，人们对数据的隐私保护越来越重视，这使得即使理论上可用于机器学习的数据很多，也因为不同数据源(即数据拥有者，如银行、保险公司、医院、金融机构、学校、政府部分等)出于其对自身所拥有的数据的隐私保护上的考虑，而不愿或不能将其数据直接共享给其他有需要的数据使用者，从而使得实际上可用于机器学习的数据仍然可能不足，由此导致无法有效地利用机器学习基于更多的相关数据挖掘出能够创造更多价值的信息。此外，即使已经从其他数据源获取到含有隐私信息的数据或者机构本身拥有含有隐私信息的数据，基于这些数据训练出的机器学习模型仍然可能泄露数据的隐私信息。也就是说，目前还难以有效利用不同来源的数据来共同挖掘价值。

鉴于此，需要既可以保护数据中的隐私信息不被泄露，同时能够有效利用不同数据源的数据进行机器学习的技术。

发明内容

根据本公开示例性实施例，提供了一种在数据隐私保护下执行机器学习的方法，所述方法可包括：获取目标数据集；获取关于源数据集的迁移项，其中，所述迁移项用于在源数据隐私保护方式下将源数据集的知识迁移到目标数据集以在目标数据集上训练目标机器学习模型；以及在目标数据隐私保护方式下，基于目标数据集，结合所述迁移项来训练目标机器学习模型。

可选地，获取关于源数据集的迁移项的步骤可包括：从外部接收所述迁移项；或者，获取关于源数据集的迁移项的步骤可包括：获取源数据集；在源数据隐私保护方式下，基于源数据集执行与机器学习相关的处理；以及在基于源数据集执行与机器学习相关的处理的过程中获取关于源数据集的迁移项。

可选地，所述源数据隐私保护方式和/或所述目标数据隐私保护方式可以是遵循差分隐私定义的保护方式。

可选地，所述迁移项可涉及在基于源数据集执行与机器学习相关的处理的过程中得到的模型参数、目标函数和/或关于源数据的统计信息。

可选地，所述源数据隐私保护方式可以是在基于源数据集执行与机器学习相关的处理的过程中添加随机噪声；并且/或者，所述目标数据隐私保护方式可以是在训练目标机器学习模型的过程中添加随机噪声。

可选地，在源数据隐私保护方式下基于源数据集执行与机器学习相关的处理可包括：在源数据隐私保护方式下基于源数据集训练源机器学习模型。

可选地，源机器学习模型与目标机器学习模型可属于基于相同类型的机器学习模型。

可选地，在所述源数据隐私保护方式中可将用于训练源机器学习模型的目标函数构造为至少包括损失函数和噪声项；并且/或者，在所述目标数据隐私保护方式中可将用于训练目标机器学习模型的目标函数构造为至少包括损失函数和噪声项。

可选地，所述相同类型的机器学习模型可以是逻辑回归模型，并且，所述迁移项为源机器学习模型的参数，