[发明专利]基于联邦学习的模型训练验证方法、装置、设备及介质

说明书

本发明涉及人工智能技术领域，尤其涉及一种基于联邦学习的模型训练验证方法、装置、设备及介质。该基于联邦学习的模型训练验证方法包括：可信终端基于第二训练终端发送的待验证参数以及第二证明文件进行零知识证明；当验证通过，第一训练终端基于对应的第一本地数据和第二中间加密参数进行模型训练，得到第一加密模型参数，并生成第一证明文件；可信终端基于第一加密模型参数和第一证明文件进行零知识证明，以验证第一训练终端的训练过程是否准确；当验证通过，可信终端根据第一加密模型参数和第二加密模型参数，更新模型权重，以使第一训练终端以及第二训练终端根据更新后的模型权重进行模型训练。该方法可有效保证联邦学习的安全性。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种基于联邦学习的模型训练验证方法、装置、设备及介质。

背景技术

现有的联邦学习大多假设参与方为半诚实的，即只按照协议流程进行模型训练而不会进行任何破坏行为。但这一假设在实际应用过程中显得过于理想。事实上，联邦学习的参与方可能有以下行为：

1、该参与方为偷懒节点，该节点可能传输从别人那里得到、自己在以前的训练回合所得到的虚假的、毫无意义的加密梯度信息给其他参与方。

2、该参与方可能为恶意节点或者是被恶意攻击者攻占的节点，该节点可能传输错误的加密梯度信息来干扰模型训练过程。

在实际应用中，由于联邦学习的参与方可能存在上述干扰行为，导致实际进行模型训练时，无法保证模型训练过程的安全性需求。

发明内容

本发明实施例提供一种基于联邦学习的模型训练验证方法、装置、设备及介质，以解决目前基于联邦学习进行模型训练时，无法保证模型训练过程的安全性需求。

一种基于联邦学习的模型训练验证方法，应用于联邦学习系统中，所述联邦学习系统包括第一训练终端、第二训练终端以及可信终端；所述基于联邦学习的模型训练验证方法包括：

通过所述可信终端基于所述第二训练终端发送的待验证参数以及第二证明文件进行零知识证明，以验证所述第二训练终端的训练过程是否准确；其中，所述待验证参数包括第二中间加密参数以及第二加密模型参数；所述第二中间加密参数为所述第二训练终端基于对应的模型权重以及第二本地数据计算得到；

当验证通过时，通过所述可信终端将所述第二中间加密参数发送至所述第一训练终端，以使所述第一训练终端基于对应的第一本地数据以及所述第二中间加密参数进行模型训练，得到第一加密模型参数，并生成第一证明文件；

通过所述可信终端基于所述第一加密模型参数以及所述第一证明文件进行零知识证明，以验证所述第一训练终端的训练过程是否准确；

当验证通过时，通过所述可信终端根据所述第一加密模型参数以及第二加密模型参数，更新所述模型权重，以使所述第一训练终端以及所述第二训练终端根据更新后的模型权重进行模型训练；其中，所述第二加密模型参数为所述第二训练终端基于所述第二中间加密参数以及所述第二本地数据计算得到。

一种基于联邦学习的模型训练验证装置，包括：

第一训练验证模块，用于通过所述可信终端基于所述第二训练终端发送的待验证参数以及第二证明文件进行零知识证明，以验证所述第二训练终端的训练过程是否准确；其中，所述待验证参数包括第二中间加密参数以及第二加密模型参数；所述第二中间加密参数为所述第二训练终端基于对应的模型权重以及第二本地数据计算得到；

第一训练终端训练模块，用于当验证通过时，通过所述可信终端将所述第二中间加密参数发送至所述第一训练终端，以使所述第一训练终端基于对应的第一本地数据以及所述第二中间加密参数进行模型训练，得到第一加密模型参数，并生成第一证明文件；

第二训练验证模块，用于通过所述可信终端基于所述第一加密模型参数以及所述第一证明文件进行零知识证明，以验证所述第一训练终端的训练过程是否准确；