[发明专利]保护数据隐私的双方联合训练业务预测模型的方法及装置

说明书

本说明书实施例提供一种保护数据隐私的双方联合训练业务预测模型的方法及装置，其中第一方和第二方分别拥有一部分特征数据，分别维护第一和第二参数部分，通过模型迭代进行联合训练，每次迭代时，双方各自按照本次各自的正态分布随机生成各自的随机矩阵，并各自计算其特征矩阵与随机矩阵的乘积结果，基于双方得到的乘积结果与第一方拥有的标签，确定当前目标损失。若基于当前目标损失选择拒绝更新，双方各自重新执行随机生成随机矩阵以及之后的步骤。若基于当前目标损失选择接受更新，双方各自利用当前的随机矩阵更新得到本次参数部分。如此确保了隐私数据不被泄露，提高了联合训练过程中隐私数据的安全性。

技术领域

本说明书一个或多个实施例涉及数据安全和机器学习领域，具体地，涉及双方联合训练业务预测模型的方法和装置。

背景技术

机器学习所需要的数据往往会涉及到多个领域。例如在基于机器学习的商户分类分析场景中，电子支付平台拥有商户的交易流水数据，电子商务平台存储有商户的销售数据，银行机构拥有商户的借贷数据。数据往往以孤岛的形式存在。由于行业竞争、数据安全、用户隐私等问题，数据整合面临着很大阻力，将分散在各个平台的数据整合在一起训练机器学习模型难以实现。在保证数据不泄露的前提下，使用多方数据联合训练机器学习模型变成目前的一大挑战。

发明内容

为了解决上述技术问题之一，本说明书一个或多个实施例提供一种保护数据隐私的双方联合训练业务预测模型的方法、装置及电子设备。

根据第一方面，提供一种保护数据隐私的双方联合训练业务预测模型的方法，所述双方包括第一方和第二方，所述第一方存储有由多个业务对象的第一特征部分构成的第一特征矩阵，以及由所述多个业务对象的标签值构成的标签向量，并维护所述第一特征部分对应的第一参数部分；所述第二方存储有由所述多个业务对象的第二特征部分构成的第二特征矩阵，并维护所述第二特征部分对应的第二参数部分；所述方法应用于所述第一方，该方法包括，多次执行目标迭代；其中，每次目标迭代包括：

以前次迭代得到的前次第一参数部分为期望，确定本次第一正态分布；

按照所述本次第一正态分布随机生成第一随机矩阵；

计算所述第一特征矩阵与所述第一随机矩阵相乘得到的第一乘积；

从所述第二方接收第二乘积；所述第二乘积为所述第二特征矩阵与第二随机矩阵相乘的乘积；所述第二随机矩阵由所述第二方按照本次第二正态分布随机生成；所述本次第二正态分布的期望为前次迭代得到的前次第二参数部分；

基于所述第一乘积、所述第二乘积和所述标签向量，确定当前目标损失；

基于所述当前目标损失选择拒绝更新或接受更新；

若选择拒绝更新，重新执行所述随机生成第一随机矩阵以及之后的步骤；若选择接受更新，利用当前的第一随机矩阵更新得到本次第一参数部分。

可选的，所述本次第一正态分布的协方差矩阵为前次协方差矩阵与目标乘积的加权和；其中，所述前次协方差矩阵为前次迭代确定的前次第一正态分布的协方差矩阵；所述目标乘积为所述前次第一参数部分与所述前次第一参数部分的转置矩阵相乘得到的乘积。

可选的，所述基于所述当前目标损失选择拒绝更新或接受更新，包括：

确定所述当前目标损失减前次目标损失的差值；其中，所述前次目标损失为前次迭代结果对应的目标损失；

基于所述差值选择拒绝更新或接受更新。

可选的，所述基于所述差值选择拒绝更新或接受更新，包括：

若所述差值小于0，选择接受更新；

若所述差值大于0，计算目标概率作为选中接受更新的概率；所述目标概率与所述差值负相关；