[发明专利]保护隐私的业务预测模型联合更新方法及装置

说明书

本说明书实施例提供一种保护隐私的业务预测模型联合更新方法及装置，在更新方法中，服务器接收若干客户端在基于各自维护的私有样本，在本地训练业务预测模型后发送的加密梯度矩阵。将若干客户端的加密梯度矩阵加载到TEE中，在TEE中对其进行解密，得到若干原始梯度矩阵。对若干原始梯度矩阵中相同位置的矩阵元素进行融合，得到融合矩阵。该融合矩阵用于反映若干原始梯度矩阵中的矩阵元素取值的总体趋势。基于融合矩阵，计算若干原始梯度矩阵各自的离散度。该离散度用于反映各原始梯度矩阵中的矩阵元素取值偏离总体趋势的程度。基于若干原始梯度矩阵各自的离散度，选取各目标矩阵，并基于各目标矩阵，更新服务器维护的业务预测模型的模型参数。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种保护隐私的业务预测模型联合更新方法及装置。

背景技术

联邦学习(Federated Learning)，也称联合学习，是一种新兴的人工智能基础技术。其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方之间开展高效率的机器学习。

然而在多参与方联合学习的过程中，比如，在多参与方联合更新业务预测模型的过程中，可能会存在其中的某一方为恶意攻击者，这就会使得模型联合更新过程被攻击。

因此，需要提供一种方案，以便可以从多个参与方中识别出恶意攻击者，进而确保模型联合更新的安全性。

发明内容

本说明书一个或多个实施例描述了一种保护隐私的业务预测模型联合更新方法及装置，可以有效抵御恶意攻击者的攻击。

第一方面，提供了一种保护隐私的业务预测模型联合更新方法，包括：

接收若干客户端在基于各自维护的私有样本，在本地训练业务预测模型后发送的加密梯度矩阵；

将所述若干客户端的加密梯度矩阵加载到所述TEE中，在所述TEE中对其进行解密，得到若干原始梯度矩阵；

对所述若干原始梯度矩阵中相同位置的矩阵元素进行融合，得到融合矩阵；所述融合矩阵用于反映所述若干原始梯度矩阵中的矩阵元素取值的总体趋势；

基于所述融合矩阵，计算所述若干原始梯度矩阵各自的离散度；所述离散度用于反映各原始梯度矩阵中的矩阵元素取值偏离总体趋势的程度；

基于所述若干原始梯度矩阵各自的离散度，从所述若干原始梯度矩阵中选取各目标矩阵；

基于所述各目标矩阵，更新所述服务器维护的业务预测模型的模型参数。

第二方面，提供了一种保护隐私的业务预测模型联合更新装置，包括：

接收单元，用于接收若干客户端在基于各自维护的私有样本，在本地训练业务预测模型后发送的加密梯度矩阵；

解密单元，用于将所述若干客户端的加密梯度矩阵加载到所述TEE中，在所述TEE中对其进行解密，得到若干原始梯度矩阵；

融合单元，用于对所述若干原始梯度矩阵中相同位置的矩阵元素进行融合，得到融合矩阵；所述融合矩阵用于反映所述若干原始梯度矩阵中的矩阵元素取值的总体趋势；

计算单元，用于基于所述融合矩阵，计算所述若干原始梯度矩阵各自的离散度；所述离散度用于反映各原始梯度矩阵中的矩阵元素取值偏离总体趋势的程度；

选取单元，用于基于所述若干原始梯度矩阵各自的离散度，从所述若干原始梯度矩阵中选取各目标矩阵；

更新单元，用于基于所述各目标矩阵，更新所述服务器维护的业务预测模型的模型参数。

第三方面，提供了一种计算机存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。