[发明专利]基于神经网络的联邦建模方法、设备及可读存储介质

说明书

本发明公开了一种基于神经网络的联邦建模方法、设备及可读存储介质，该方法包括：第一终端将已标注的第一样本数据输入待训练模型的第一神经网络进行迭代，并对经迭代后所述第一神经网络的第一输出进行同态加密；接收第二终端发送的经同态加密后的第二输出；依据经同态加密后的第一输出和第二输出，计算加密的损失值和梯度值，并将加密的损失值和梯度值传输至第三终端，由所述第三终端对加密的损失值进行解密之后，依据解密的损失值判断所述待训练模型是否收敛，若所述待训练模型收敛，则结束训练，得到待训练模型。本发明能够提高各方样本数据的私密性和利用率。

技术领域

本发明涉及机器学习的技术领域，尤其涉及一种基于神经网络的联邦建模方法、设备及可读存储介质。

背景技术

随着机器学习的快速发展，机器学习可应用于各个领域，如数据挖掘、计算机视觉、自然语言处理、生物特征识别、医学诊断、检测信用卡欺诈、证券市场分析和DNA序列测序等。机器学习包括学习部分和执行部分，学习部分利用样本数据修改系统的知识库，以增进系统执行部分完成任务的效能，执行部分根据知识库完成任务，同时把获得的信息反馈给学习部分。

目前，由于各方的样本数据具有密切联系，如果机器学习仅使用一方的样本数据，则学习得到的模型不准确，为解决上述问题，通过联合各方的样本数据，应用逻辑回归或决策树等单层简单模型进行机器学习。然而，由于需要联合各方的样本数据，存在一方的样本数据被另一方知晓的情况，此外，通过单层简单模型进行机器学习，无法有效的利用各方的样本数据。

因此，如何提高各方样本数据的私密性和利用率是目前亟待解决的问题。

发明内容

本发明的主要目的在于提供一种基于神经网络的联邦建模方法、设备及可读存储介质，旨在提高各方样本数据的私密性和利用率。

为实现上述目的，本发明提供一种基于神经网络的联邦建模方法，所述基于神经网络的联邦建模方法包括以下步骤：

第一终端将已标注的第一样本数据输入待训练模型的第一神经网络进行迭代，并对经迭代后所述第一神经网络的第一输出进行同态加密；

接收第二终端发送的经同态加密后的第二输出，其中，所述第二终端将第二样本数据输入待训练模型的第二神经网络进行迭代，并将经迭代后所述第二神经网络的第二输出进行同态加密后传输至所述第一终端；

依据经同态加密后的第一输出和第二输出，计算加密的损失值和梯度值，并将加密的损失值和梯度值传输至第三终端；

由所述第三终端对加密的损失值和梯度值进行解密之后，依据解密后的损失值判断所述待训练模型是否收敛，若所述待训练模型收敛，则结束训练，得到待训练模型。

进一步地，所述第三终端对加密的损失值和梯度值进行解密之后，依据解密后的损失值判断所述待训练模型是否收敛的步骤包括：

所述第三终端接收所述第一终端发送的加密的损失值，并获取所述第一终端前一次发送的历史损失值；

依据预存的私有密钥对加密的损失值和历史损失值进行解密，并依据解密后的损失值和历史损失值判断所述待训练模型是否收敛。

进一步地，所述依据解密后的损失值和历史损失值判断所述待训练模型是否收敛的步骤包括：

计算解密后的损失值与历史损失值之间的差值，并判断所述差值是否小于或等于预设阈值；

若所述差值小于或等于预设阈值，则确定所述待训练模型收敛，否则确定所述待训练模型未收敛。

进一步地，所述第三终端对加密的损失值和梯度值进行解密之后，依据解密后的损失值判断所述待训练模型是否收敛的步骤之后，还包括：

若所述待训练模型未收敛，则所述第三终端将所述待训练模型的目标函数对于所述第一输出的梯度解密之后，返回给所述第一终端；