[发明专利]纵向联邦学习优化方法、装置、设备及存储介质

说明书

本发明涉及金融科技技术领域，公开了一种纵向联邦学习优化方法、装置、设备和存储介质，该方法包括：获取数据在主参与者中的加密数值集合，基于预设判定条件获取新数据在主参与者中的新加密数值集合；将加密数值集合和新加密数值集合作为目标数值集合发送至副参与者，以获取副参与者基于目标数值集合反馈的中间结果值；根据中间结果值计算主参与者中的主加密数据，并将所述主加密数据发送至协调者；接收所述协调者反馈的目标主梯度值，基于所述目标主梯度值更新所述主参与者中的本地模型参数，并继续执行所述获取数据在主参与者中的加密数值集合的步骤，直至所述协调者对应的纵向逻辑回归模型收敛。本发明降低了进行纵向联邦学习的通信量。

技术领域

本发明涉及金融科技(Fintech)技术领域，尤其涉及纵向联邦学习优化方法、装置、设备及存储介质。

背景技术

随着计算机技术的发展，越来越多的技术(大数据、分布式、区块链 Blockchain、人工智能等)应用在金融领域，传统金融业正在逐步向金融科技(Fintech)转变，但由于金融行业的安全性、实时性要求，也对技术提出了更高的要求。例如，联邦学习的纵向逻辑回归方法，但现有的纵向逻辑回归方案是基于一阶梯度信息的随机梯度下降方法。该方案的原理是先将逻辑回归的损失(loss)函数用在零点的二阶泰勒展开，然后该近似损失函数值和梯度值可以通过AB两方的数据联邦得到，利用同态加密将计算中间结果加密，由C方进行解密后传输回AB两方进行模型参数更新。该方案采用的路线为随机梯度下降方法，即随机选取小批数据，AB两方通过计算、加密和数据交互得到各自参数分量的加密梯度值，发送给C方解密后乘以相应的步长即得到下降方向。随机梯度下降为一阶算法，收敛速度较慢，需要进行大量轮次的数据交互，使得目前纵向联邦学习所需要的通信量高，耗费网络带宽大，计算成本高。

发明内容

本发明的主要目的在于提出一种纵向联邦学习优化方法、装置、设备及存储介质，旨在解决目前进行纵向联邦学习的通信量较高的技术问题。

为实现上述目的，本发明提供一种纵向联邦学习优化方法，所述纵向联邦学习优化方法包括如下步骤：

获取数据在主参与者中的加密数值集合，并基于预设判定条件获取新数据在所述主参与者中的新加密数值集合；

将所述加密数值集合和所述新加密数值集合作为目标数值集合发送至副参与者，以获取所述副参与者基于所述目标数值集合反馈的中间结果值；

根据所述中间结果值计算所述主参与者中的主加密数据，并将所述主加密数据发送至协调者，其中，所述协调者用于响应于纵向逻辑回归模型未收敛，根据所述主加密数据和所述副参与者发送的副加密数据更新二阶导数矩阵，并根据所述更新后的二阶导数矩阵计算目标主梯度值；

接收所述协调者反馈的目标主梯度值，基于所述目标主梯度值更新所述主参与者中的本地模型参数，并继续执行所述获取数据在主参与者中的加密数值集合的步骤，直至所述协调者对应的纵向逻辑回归模型收敛。

可选地，所述接收所述协调者反馈的目标主梯度值的步骤，包括：

接收所述协调者反馈的目标主梯度值，其中，所述目标主梯度值由所述协调者根据响应于所述纵向逻辑回归模型满足所述预设判定条件而更新的二阶导数矩阵获取的。

可选地，所述接收所述协调者反馈的目标主梯度值的步骤，包括：

接收所述协调者反馈的目标主梯度值，其中，所述目标主梯度值由所述协调者根据目标数据更新的二阶导数矩阵获取的，所述目标数据为响应于纵向逻辑回归模型未收敛，且满足预设判定条件，将所述主加密数据和所述副参与者发送的副加密数据进行解密合并得到的。

可选地，所述接收所述协调者反馈的目标主梯度值，包括：