[发明专利]模型训练的方法、装置、数据处理系统及服务器

权利要求书

1.一种模型训练的方法，其特征在于，所述方法应用于数据处理系统的服务器，所述服务器与多个客户端设备连接，所述方法包括：

获取基于所述多个客户端设备各自对应的模型确定的多个相似度矩阵，所述多个客户端设备各自对应的模型为基于未标注的训练数据训练得到；

利用由所述多个相似度矩阵集成得到的集成相似度矩阵对所述服务器对应的待处理模型进行训练，得到目标模型；

将所述目标模型对应的模型参数发送至所述多个客户端设备，并指示所述多个客户端设备基于所述模型参数对所述各自对应的模型进行更新。

2.根据权利要求1所述的方法，其特征在于，所述利用由所述多个相似度矩阵集成得到的集成相似度矩阵对所述服务器对应的待处理模型进行训练，得到目标模型，包括：

对所述多个相似度矩阵进行均值处理，将所述均值处理后的结果进行归一化处理，得到集成相似度矩阵；

基于所述集成相似度矩阵以及指定数据对所述服务器对应的待处理模型进行训练，得到目标模型。

3.根据权利要求2所述的方法，其特征在于，所述基于所述集成相似度矩阵以及指定数据对所述服务器对应的待处理模型进行训练，得到目标模型，包括：

将所述指定数据作为训练样本，将所述集成相似度矩阵作为训练样本间关系的目标对所述服务器对应的待处理模型进行关系蒸馏，得到目标模型。

4.根据权利要求1所述的方法，其特征在于，所述多个客户端设备各自对应的模型的架构与所述服务器对应的待处理模型的架构不同。

5.一种模型训练的方法，其特征在于，所述方法应用于数据处理系统的客户端设备，所述数据处理系统还包括服务器，所述服务器与多个客户端设备连接，所述方法包括：

采用未标注的训练数据对客户端模型进行训练，得到指定模型；

将指定数据输入所述指定模型，输出得到模型特征；

基于所述模型特征获取相似度矩阵，并将所述相似度矩阵发送至所述服务器；

接收所述服务器发送的目标模型对应的模型参数，所述目标模型为利用由多个相似度矩阵集成得到的集成相似度矩阵训练得到；

基于所述模型参数对所述指定模型进行更新。

6.根据权利要求5所述的方法，其特征在于，所述基于所述模型特征获取相似度矩阵，包括：

在通信开销要求满足预设条件的情况下，基于所述模型特征获取相似度矩阵。

7.根据权利要求5所述的方法，其特征在于，所述将所述相似度矩阵发送至所述服务器，包括：

按照预设规则将所述相似度矩阵变换形式后发送至所述服务器。

8.一种模型训练的装置，其特征在于，所述装置运行于数据处理系统的服务器，所述服务器与多个客户端设备连接，所述装置包括：

数据获取模块，用于获取基于所述多个客户端设备各自对应的模型确定的多个相似度矩阵，所述多个客户端设备各自对应的模型为基于未标注的训练数据训练得到；

模型训练模块，用于利用由所述多个相似度矩阵集成得到的集成相似度矩阵对所述服务器对应的待处理模型进行训练，得到目标模型；

数据发送模块，用于将所述目标模型对应的模型参数发送至所述多个客户端设备，并指示所述多个客户端设备基于所述模型参数对所述各自对应的模型进行更新。