[发明专利]神经网络模型的训练方法、装置、设备和存储介质

说明书

本公开提供了一种神经网络模型的训练方法、装置、设备和存储介质，涉及计算机技术领域，尤其涉及区块链和人工智能领域。具体实现方案为：从至少两个特征提供方分别获取样本用户的特征表示密文；基于标签子神经网络，根据特征表示密文和标签密文，确定标签子神经网络中标签神经元的损失误差密文和梯度密文；控制特征提供方对标签神经元的梯度密文进行解密得到解密结果，根据从特征提供方获取的解密结果更新标签神经元的网络参数；向特征提供方发送关联神经元的损失误差密文，由特征提供方对该损失误差密文进行解密得到损失误差原文，并根据该损失误差原文更新特征神经元的网络参数。本公开实施例能够保护联合学习过程中的数据隐私。

技术领域

本公开涉及计算机技术领域，尤其涉及区块链技术和人工智能技术领域，具体涉及一种神经网络模型的训练方法、装置、设备和存储介质。

背景技术

随着人工智能技术的发展，机器学习在各个场景中得到了越来越广泛的运用。

联邦机器学习是人工智能的重要研究方向。然而，在联邦学习中，如何在对参与方进行隐私保护的前提下，进行数据使用和机器学习建模十分重要。

发明内容

本公开提供了一种用于神经网络模型的训练方法、装置、设备和存储介质。

根据本公开的一方面，提供了一种神经网络模型的训练方法，包括：

从至少两个特征提供方分别获取样本用户的特征表示密文；所述特征表示密文基于特征提供方中的特征子神经网络，根据样本用户在该特征提供方所关联的特征项上的特征数据确定；

确定样本用户的标签密文，并基于标签子神经网络，根据所述特征表示密文和所述标签密文，确定标签子神经网络中标签神经元的损失误差密文和梯度密文；

控制特征提供方对标签神经元的梯度密文进行解密得到解密结果，根据从特征提供方获取的解密结果更新标签神经元的网络参数；

将与特征子神经网络中特征神经元连接的标签神经元，作为特征子神经网络的关联神经元，向特征提供方发送关联神经元的损失误差密文，由特征提供方对该损失误差密文进行解密得到损失误差原文，并根据该损失误差原文更新特征神经元的网络参数；

待训练神经网络模型包括至少两个特征子神经网络和所述标签子网络。

根据本公开的又一方面，提供了一种神经网络模型的训练方法，包括：

基于特征提供方中的特征子神经网络，根据样本用户在该特征提供方所关联的特征项上的特征数据确定特征表示密文；

向标签提供方发送所述特征表示密文，由标签提供方基于标签子神经网络，根据从至少两个特征提供方获取的特征表示密文和标签密文，确定标签子神经网络中标签神经元的损失误差密文和梯度密文；

对标签神经元的梯度密文进行解密得到解密结果，且控制标签提供方根据所述解密结果更新标签神经元的网络参数；

从标签神经元获取关联神经元的损失误差密文，对获取的损失误差密文进行解密得到损失误差原文，并根据损失误差原文更新特征子神经网络中特征神经元的网络参数；所述关联神经元为与所述特征神经元连接的标签神经元；

待训练神经网络模型包括至少两个所述特征子神经网络和所述标签子网络。

根据本公开的又一方面，提供了一种神经网络模型的训练装置，包括：

特征表示密文模块，用于从至少两个特征提供方分别获取样本用户的特征表示密文；所述特征表示密文基于特征提供方中的特征子神经网络，根据样本用户在该特征提供方所关联的特征项上的特征数据确定；

同态密文计算模块，用于确定样本用户的标签密文，并基于标签子神经网络，根据所述特征表示密文和所述标签密文，确定标签子神经网络中标签神经元的损失误差密文和梯度密文；