[发明专利]业务模型的联合训练方法及装置

说明书

本说明书实施例提供一种业务模型的联合训练方法及装置，在多方安全计算中，将非线性的复杂运算分配给第三方处理，大大降低多个业务方联合训练非线性模型的复杂度。同时，持有训练样本的特征数据或标签数据的各个业务方通过约定的随机数生成方式，生成预定数量的随机数，从而获取按顺序一一对应的训练样本的样本数据，保持数据的一致性，并且由于第三方不参与随机数的生成过程，从而各个其他业务方有效针对第三方保证了数据隐私。而各个其他业务方之间通过秘密共享方法进行交互，相互之间保证了数据隐私。总之，以上方法在隐私保护的基础上，大大降低多个业务方联合训练非线性模型的运算复杂度。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及利用计算机对业务模型进行训练的方法和装置。

背景技术

大数据时代，很多数据可能分散存于不同的企业中，企业与企业之间基于隐私保护等方面的考虑，并不能完全分享彼此的数据，因此可能存在数据孤岛。

在一些情况下，企业与企业之间通常需要进行合作安全建模，以便在充分保护企业数据隐私的前提下，使用各方的数据对数据处理模型进行协作训练，从而更准确、有效地处理业务数据。此时，用于对数据处理模型进行训练的数据可以是分散在合作建模的各方的。因此，如何在模型训练的过程中基于对建模各方的数据隐私的保护，提供更有效的模型训练方式，是当前亟需解决的技术问题。

发明内容

本说明书一个或多个实施例描述了一种业务模型的联合训练方法及装置，用以解决背景技术提到的一个或多个问题。

根据第一方面，提供了一种业务模型的联合训练方法，用于多个业务方联合训练业务模型，所述业务模型用于对业务数据进行处理，得到相应的业务处理结果，所述多个业务方包括第一方、第二方和第三方，针对用于训练所述业务模型的多个训练样本，所述第一方持有包含部分或全部业务特征的特征数据，以及当前模型参数的第一份额，所述第二方至少持有各个业务标签，以及当前模型参数的第二份额；所述方法由第一方执行，包括：按照与所述第二方协商一致的随机数生成方式和当前随机数种子，生成预定数量的随机数，从而获取与各个随机数分别对应的各个训练样本的第一特征数据；通过秘密共享的方式与所述第二方进行交互，从而融合当前模型参数和所述第一特征数据，得到融合结果的第一份额；向所述第三方发送所述融合结果的第一份额，以供所述第三方根据所述融合结果的第一份额，以及从所述第二方获取的所述融合结果的第二份额，确定基于激励函数处理所述融合结果的激励结果；从所述第三方获取所述激励结果的第一份额；基于所述激励结果的第一份额，与所述第二方以秘密共享方式更新当前模型参数，从而得到更新后的当前模型参数的第一份额。

在一个实施例中，在所述第一方持有包含部分业务特征的特征数据的情况下，所述多个业务方还包括第四方，所述第四方还持有通过所述随机数生成方式和所述当前随机数种子获取的第四特征数据；所述通过秘密共享的方式与所述第二方进行交互，从而融合当前模型参数和第一特征数据，得到融合结果的第一份额包括：通过秘密共享的方式与所述第二方、所述第四方进行交互，从而融合模型参数和包括所述第一特征数据、所述第四特征数据的样本特征数据，得到融合结果的第一份额。

在一个实施例中，所述第二方还持有通过所述随机数生成方式和所述当前随机数种子获取的第二特征数据；所述通过秘密共享的方式与所述第二方进行交互，从而融合当前模型参数和第一特征数据，得到融合结果的第一份额包括：通过秘密共享的方式与所述第二方进行交互，从而融合当前模型参数和所述第一特征数据、所述第二特征数据，得到融合结果的第一份额。

在一个实施例中，所述随机数生成方式中，生成的第一个随机数依赖于所述当前随机数种子，后续生成的单个随机数依赖于前一个随机数的值。