[发明专利]纵向联邦建模优化方法、设备及可读存储介质

说明书

本发明公开了一种纵向联邦建模优化方法、设备及可读存储介质，所述方法包括：标签方接收所述数据方发送的第一网络输出，其中，所述第一网络输出是所述数据方将所述第一数据集输入所述第一搜索网络得到的；融合各所述第一网络输出得到第二网络输出，并根据所述第二网络输出和本端的标签数据计算损失函数相对于各所述第一网络输出的第一梯度；将各所述第一梯度进行差分隐私加密处理得到各第一加密梯度，将各所述第一加密梯度发送给对应的数据方，以供所述数据方根据所述第一加密梯度更新所述第一搜索网络中的搜索结构参数和/或模型参数。本发明实现了参与方在使用纵向联邦技术建模之时无需事先确定其模型结构，使得纵向联邦学习的参与门槛大大降低。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种纵向联邦建模优化方法、设备及可读存储介质。

背景技术

随着人工智能的发展，人们为解决数据孤岛的问题，提出了“联邦学习”的概念，使得联邦双方在不用给出己方数据的情况下，也可进行模型训练得到模型参数，并且可以避免数据隐私泄露的问题。

纵向联邦学习是在参与者的数据特征重叠较小，而用户重叠较多的情况下，取出参与者用户相同而用户数据特征不同的那部分用户及数据进行联合训练机器学习模型。比如有属于同一个地区的两个参与者A和B，其中参与者A是一家银行，参与者B是一个电商平台。参与者A和B在同一地区拥有较多相同的用户，但是A与B的业务不同，记录的用户数据特征是不同的。特别地，A和B记录的用户数据特征可能是互补的。在这样的场景下，可以使用纵向联邦学习来帮助A和B构建联合机器学习预测模型，帮助A和B向他们的客户提供更好的服务。

但是，目前纵向联邦学习的参与方在使用纵向联邦技术时需要对各自的模型结构进行预先的设计，而由于设计的模型结构稍有差别可能就会极大地影响整体纵向联邦学习技术的性能，使得纵向联邦学习的参与门槛较高，限制了纵向联邦学习在具体任务领域的应用范围。

发明内容

本发明的主要目的在于提供一种纵向联邦建模优化方法、设备及可读存储介质，旨在解决目前纵向联邦学习的参与方在使用纵向联邦技术时需要对各自的模型结构进行预先的设计，造成纵向联邦学习参与门槛高的问题。

为实现上述目的，本发明提供一种纵向联邦建模优化方法，所述方法应用于参与纵向联邦建模的标签方，所述标签方与参与纵向联邦建模的各数据方通信连接，各所述数据方中分别部署有基于各自数据特征构建的第一数据集和第一搜索网络，所述方法包括以下步骤：

接收所述数据方发送的第一网络输出，其中，所述第一网络输出是所述数据方将所述第一数据集输入所述第一搜索网络得到的；

融合各所述第一网络输出得到第二网络输出，并根据所述第二网络输出和本端的标签数据计算损失函数相对于各所述第一网络输出的第一梯度；

将各所述第一梯度进行差分隐私加密处理得到各第一加密梯度，将各所述第一加密梯度发送给对应的数据方，以供所述数据方根据所述第一加密梯度更新所述第一搜索网络中的搜索结构参数和/或模型参数。

可选地，所述接收所述数据方发送的第一网络输出，其中，所述第一网络输出是所述数据方将所述第一数据集输入所述第一搜索网络得到的的步骤包括：

接收所述数据方发送的第一网络输出，其中，所述第一网络输出是所述数据方将所述第一数据集输入所述第一搜索网络进行处理得到网络原始输出，并对所述网络原始输出进行差分隐私加密处理后得到的。

可选地，所述标签方部署有输出网络以及基于所述标签方的数据特征构建的第二数据集和第二搜索网络，

所述融合各所述第一网络输出得到第二网络输出的步骤包括：

将所述第二数据集输入所述第二搜索网络得到第三网络输出；

将所述第三网络输出和各所述第一网络输出进行拼接后输入所述输出网络得到第二网络输出；