[发明专利]消息处理方法和装置

说明书

本发明公开了一种消息处理方法和装置。其中，该方法包括：获取联邦学习中的参与方发送的多个梯度消息，其中，每个梯度消息中分别包括第一梯度值，第一梯度值为参与方使用本地的数据对从联邦学习过程中获取到的第一模型进行训练后，所得到的第一模型的模型参数；获取多个梯度消息各自对应的第一梯度值；根据多个第一梯度值融合得到目标梯度值；将目标梯度值发送给联邦学习中的协调方，以使协调方使用目标梯度值更新协调方本地存储的第一模型。本发明解决了联邦学习中参与方的数据安全性低的技术问题。

技术领域

本发明涉及神经网络模型训练领域，具体而言，涉及一种消息处理方法和装置。

背景技术

现有技术中，在联邦学习的过程中，参与方将模型训练的梯度值发送给协调方，以使协调方按照梯度值对协调方的模型进行训练。

然而，若是采用上述方法，则由于协调方可以获取各个参与方的梯度值，因此，协调方可能搜集某个参与方发送的梯度值，在梯度值达到一定量之后，可以反推该参与方数据中的信息，从而造成参与方的数据泄密。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种消息处理方法和装置，以至少解决联邦学习中参与方的数据安全性低的技术问题。

根据本发明实施例的一个方面，提供了一种消息处理方法，包括：获取联邦学习中的参与方发送的多个梯度消息，其中，每个上述梯度消息中分别包括第一梯度值，上述第一梯度值为上述参与方使用本地的数据对从上述联邦学习过程中获取到的第一模型进行训练后，所得到的上述第一模型的模型参数；获取上述多个梯度消息各自对应的上述第一梯度值；根据多个上述第一梯度值融合得到目标梯度值；将上述目标梯度值发送给上述联邦学习中的协调方，以使上述协调方使用上述目标梯度值更新上述协调方本地存储的上述第一模型。

根据本发明实施例的另一方面，还提供了一种消息处理装置，包括：第一获取单元，用于获取联邦学习中的参与方发送的多个梯度消息，其中，每个上述梯度消息中分别包括第一梯度值，上述第一梯度值为上述参与方使用本地的数据对从上述联邦学习过程中获取到的第一模型进行训练后，所得到的上述第一模型的模型参数；第二获取单元，用于获取上述多个梯度消息各自对应的上述第一梯度值；融合单元，用于根据多个上述第一梯度值融合得到目标梯度值；发送单元，用于将上述目标梯度值发送给上述联邦学习中的协调方，以使上述协调方使用上述目标梯度值更新上述协调方本地存储的上述第一模型。

作为一种可选的实施例，上述发送单元包括：第一保存模块，用于将上述目标梯度值保存到区块链上，以使上述协调方从上述区块链上读取上述目标梯度值。

作为一种可选的实施例，上述发送单元还包括：第二保存模块，用于在将上述目标梯度值保存到上述区块链上之后，将上述第一梯度值与发送上述第一梯度值的上述参与方的目标标识保存到上述区块链上。

作为一种可选的实施例，上述第一获取单元包括：第三保存模块，用于在每获取到一个上述梯度消息后，将上述梯度消息保存到消息队列中；第二获取模块，用于在上述消息队列中的上述梯度消息的数量达到N的情况下，或者计时器的计时时长达到预定时长的情况下，获取上述消息队列中所有的上述梯度消息，其中，上述N为预设的第一阈值，在获取到上述消息队列中所有的上述梯度消息之后，将上述计时器的上述计时时长置零。

作为一种可选的实施例，上述第三保存模块包括：获取子模块，用于获取使用同态加密公钥加密后的上述梯度消息；保存子模块，用于将使用上述同态加密公钥加密后的上述梯度消息保存到上述消息队列中。