[发明专利]特征提取模型的训练方法、装置、设备、介质及程序产品

权利要求书

1.一种特征提取模型的训练方法，其特征在于，基于联邦学习系统，所述联邦学习系统包括协作方设备及至少两个参与方设备，所述方法应用于第一参与方设备，所述方法包括：

通过第一特征提取模型，对所述第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征；

接收第二参与方设备发送的第二用户特征，所述第二用户特征为，所述第二参与方设备通过第二特征提取模型，对本地的第二训练用户样本进行特征提取得到的用户特征；

其中，所述第二训练用户样本与所述第一训练用户样本在目标维度的维度信息相同，所述第一用户特征与所述第二用户特征存在部分相同；

基于所述第一用户特征以及所述第二用户特征，采用对比学习的方式，确定所述第一特征提取模型的损失；

基于所述损失，通过所述协作方设备，采用横向联邦学习的方式更新所述第一特征提取模型的模型参数。

2.如权利要求1所述的方法，其特征在于，所述基于所述损失，通过所述协作方设备，采用横向联邦学习的方式更新所述第一特征提取模型的模型参数，包括：

将所述损失发送至所述协作方设备，以使所述协作方设备对各个参与方设备发送的损失进行聚合，得到目标损失；

接收所述协作方设备返回的所述目标损失，并基于所述目标损失更新所述第一特征提取模型的模型参数。

3.如权利要求2所述的方法，其特征在于，所述将所述损失发送至所述协作方设备，包括：

对所述损失进行隐私保护，得到隐私保护后的加密损失；

发送隐私保护后的所述加密损失至协作方设备，以使所述协作方设备对多个参与方设备发送的所述加密损失进行聚合处理，得到所述目标损失。

4.如权利要求1所述的方法，其特征在于，所述基于所述损失，通过所述协作方设备，采用横向联邦学习的方式更新所述第一特征提取模型的模型参数，包括：

基于所述损失更新所述第一特征提取模型的模型参数，得到更新后的第一特征提取模型；

将所述更新后的第一特征提取模型的第一模型参数发送至所述协作方设备，以使所述协作方设备对所述第一模型参数及第二参与方设备发送的第二模型参数进行聚合，得到聚合模型参数；

其中，所述第二模型参数为，更新后的所述第二特征提取模型的模型参数；

利用所述聚合模型参数更新所述第一特征提取模型的模型参数。

5.如权利要求1所述的方法，其特征在于，所述对所述第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征之前，所述方法还包括：

对所述第一训练用户样本进行数据增强，得到第一增强训练用户样本以及第二增强训练用户样本；

通过初始特征提取模型，对所述第一增强训练用户样本以及所述第二增强训练用户样本分别进行特征提取，得到对应所述第一增强训练用户样本的第一增强特征、以及对应所述第二增强训练用户样本的第二增强特征；

基于所述第一增强特征以及所述第二增强特征，采用对比学习的方式训练所述初始特征提取模型，得到所述第一特征提取模型。

6.如权利要求1所述的方法，其特征在于，所述对所述第一参与方设备本地的第一训练用户样本进行特征提取，得到第一用户特征之前，所述方法还包括：

当所述第一训练用户样本的数量为至少两个时，对至少两个所述第一训练用户样本中一个进行数据增强，得到第一增强训练用户样本以及第二增强训练用户样本；

通过初始特征提取模型，对所述第一增强训练用户样本、所述第二增强训练用户样本、以及未经过数据增强的第一训练用户样本分别进行特征提取，得到对应所述第一增强训练用户样本的第一增强特征、对应所述第二增强训练用户样本的第二增强特征、以及对应未经过数据增强的第一训练用户样本的第三特征；

确定所述第一增强特征与所述第二增强特征之间的相似度、以及所述第一增强特征与所述第三特征之间的相似度；

基于所述第一增强特征与所述第二增强特征之间的相似度、以及所述第一增强特征与所述第三特征之间的相似度，更新所述初始特征提取模型的模型参数，得到所述第一特征提取模型。