[发明专利]特征提取模型的训练方法、装置、设备、介质及程序产品

说明书

本申请提供一种特征提取模型的训练方法、装置、电子设备、计算机可读存储介质以及计算机程序产品，包括：通过第一特征提取模型，对第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征；接收第二参与方设备发送的第二用户特征，第二用户特征为，第二参与方设备通过第二特征提取模型，对本地的第二训练用户样本进行特征提取得到的用户特征；基于第一用户特征以及第二用户特征，采用对比学习的方式，确定第一特征提取模型的损失；基于损失，通过协作方设备，采用横向联邦学习的方式更新第一特征提取模型的模型参数。通过本申请，能够提高基于联邦架构下的特征提取模型的精确性。

技术领域

本申请涉及人工智能技术，尤其涉及一种特征提取模型的训练方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

在传统的纵向联邦场景下，所有参与方设备只能基于各参与方设备对齐的有标签的训练样本进行有监督的联合建模。然而，实际场景中，由于标签数据较难获得，各参与方设备只有少量的训练样本存在标签；同时，由于参与方设备各自场景不同，所以各参与方设备的对齐样本的数量可能更少，这就导致最后各参与方能够用于联合建模的、对齐的、带标签的训练样本的数量偏少，从而影响联合建模的效果。

发明内容

本申请实施例提供一种特征提取模型的训练方法、装置、电子设备、计算机可读存储介质及计算机程序产品，能够提高基于联邦架构下的特征提取模型的精确性。

本申请实施例的技术方案是这样实现的：

本申请实施例提供一种特征提取模型的训练方法，基于联邦学习系统，所述联邦学习系统包括协作方设备及至少两个参与方设备，所述方法应用于第一参与方设备，所述方法包括：

通过第一特征提取模型，对所述第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征；

接收第二参与方设备发送的第二用户特征，所述第二用户特征为，所述第二参与方设备通过第二特征提取模型，对本地的第二训练用户样本进行特征提取得到的用户特征；

其中，所述第二训练用户样本与所述第一训练用户样本在目标维度的维度信息相同，所述第一用户特征与所述第二用户特征存在部分相同；

基于所述第一用户特征以及所述第二用户特征，采用对比学习的方式，确定所述第一特征提取模型的损失；

基于所述损失，通过所述协作方设备，采用横向联邦学习的方式更新所述第一特征提取模型的模型参数。

本申请实施例提供一种特征提取模型的训练装置，基于联邦学习系统，所述联邦学习系统包括协作方设备及至少两个参与方设备，所述装置应用于第一参与方设备，包括：

特征提取模块，用于通过第一特征提取模型，对所述第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征；

接收模块，用于接收第二参与方设备发送的第二用户特征，所述第二用户特征为，所述第二参与方设备通过第二特征提取模型，对本地的第二训练用户样本进行特征提取得到的用户特征；其中，所述第二训练用户样本与所述第一训练用户样本在目标维度的维度信息相同，所述第一用户特征与所述第二用户特征存在部分相同；

对比学习模块，用于基于所述第一用户特征以及所述第二用户特征，采用对比学习的方式，确定所述第一特征提取模型的损失；

更新模块，用于基于所述损失，通过所述协作方设备，采用横向联邦学习的方式更新所述第一特征提取模型的模型参数。

上述方案中，所述更新模块，还用于将所述损失发送至所述协作方设备，以使所述协作方设备对各个参与方设备发送的损失进行聚合，得到目标损失；接收所述协作方设备返回的所述目标损失，并基于所述目标损失更新所述第一特征提取模型的模型参数。