[发明专利]联合学习训练方法及装置在审
申请号: | 202111431405.7 | 申请日: | 2021-11-29 |
公开(公告)号: | CN114118275A | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 张敏 | 申请(专利权)人: | 新智我来网络科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 北京嘉科知识产权代理事务所(特殊普通合伙) 11687 | 代理人: | 司彦斌 |
地址: | 100102*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联合 学习 训练 方法 装置 | ||
1.一种联合学习训练方法,其特征在于,包括:
基于参与方选取的应用场景,创建联合学习模型训练任务;
根据参与方提供的参与方信息,建立联合学习模型训练策略;
利用联合学习模型训练策略,确定联合学习模型训练任务中需要承载的模型训练数量;
根据联合学习模型训练任务中需要承载的模型训练数量,启动联合学习模型训练任务中多个待训练的模型,以得到目标联合学习模型;
将目标联合学习模型存储到与所述应用场景对应的模型库中。
2.根据权利要求1所述的方法,其特征在于,根据联合学习模型训练任务中需要承载的模型训练数量,启动联合学习模型训练任务中多个待训练的模型,以得到目标联合学习模型,包括:
利用每个所述参与方的数据训练待训练的模型,得到每个所述参与方对应的第一联合学习模型;
获取每个所述参与方对应的所述第一联合学习模型的网络模型参数,并对所述网络模型参数按照预设权重值进行模型参数聚合,得到全局网络模型参数;
基于所述全局网络模型参数更新待训练的模型,得到所述目标联合学习模型。
3.根据权利要求2所述的方法,其特征在于,基于所述全局网络模型参数更新待训练的模型,得到所述目标联合学习模型,所述方法包括:
基于所述全局网络模型参数更新待训练的模型,得到第三联合学习模型;
利用每个所述参与方的数据组成第一数据集合;
将所述第一数据集合进行局部敏感哈希处理,以得到第二数据集合;
根据所述第二数据集合训练所述第三联合学习模型,得到所述目标联合学习模型。
4.根据权利要求1所述的方法,其特征在于,根据联合学习模型训练任务中需要承载的模型训练数量,启动联合学习模型训练任务中多个待训练的模型,以得到目标联合学习模型,包括:
标注每个所述参与方的数据,以得到标注数据;
根据所述标注数据,构建模型训练矩阵;
基于所述模型训练矩阵训练待训练的模型,得到目标联合学习模型。
5.根据权利要求4所述的方法,其特征在于,基于所述模型训练矩阵训练待训练的模型,得到目标联合学习模型,包括:
根据所述应用场景,对所述模型训练矩阵进行划分计算,以得到划分计算的矩阵;
利用所述划分计算的矩阵训练待训练的模型,得到目标联合学习模型。
6.根据权利要求5所述的方法,其特征在于,根据所述应用场景,对所述模型训练矩阵进行划分计算,以得到划分计算的矩阵,包括:
根据所述应用场景,确定所述应用场景的特征;
根据所述应用场景的特征,计算所述模型训练矩阵的特征值;
基于所述模型训练矩阵的特征值,对所述模型训练矩阵进行划分计算。
7.根据权利要求1所述的方法,其特征在于,将目标联合学习模型存储到与所述应用场景对应的模型库中,所述方法包括:
在接收到属于所述应用场景的预测指令的情况下,从所述模型库获取所述目标联合学习模型;
根据所述预测指令,使用所述目标联合学习模型进行预测,并将预测的结果保存到所述模型库中。
8.根据权利要求1所述的方法,其特征在于,根据参与方提供的参与方信息,建立联合学习模型训练策略,包括:
根据参与方提供的参与方信息,配置待训练的模型的超参数;
根据参与方提供的参与方信息,配置待训练的模型的模型信息,其中,模型信息至少包括:联合学习的类型、模型算法的类型、模型加密解密方式和模型聚合方式;
基于待训练的模型的超参数和模型信息建立联合学习模型训练策略。
9.根据权利要求1所述的方法,其特征在于,利用联合学习模型训练策略,确定联合学习模型训练任务中需要承载的模型训练数量,包括:
利用联合学习模型训练策略,确定联合学习模型训练任务中的提供训练数据的多个参与方;
基于多个参与方确定联合学习模型训练任务中需要承载的模型训练数量。
10.一种联合学习训练装置,其特征在于,包括:
训练任务模块,用于基于参与方选取的应用场景,创建联合学习模型训练任务;
训练策略模块,用于根据参与方提供的参与方信息,建立联合学习模型训练策略;
确定模块,用于利用联合学习模型训练策略,确定联合学习模型训练任务中需要承载的模型训练数量;
启动模块,用于根据联合学习模型训练任务中需要承载的模型训练数量,启动联合学习模型训练任务中多个待训练的模型,以得到目标联合学习模型;
模型库模块,用于将目标联合学习模型存储到与所述应用场景对应的模型库中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新智我来网络科技有限公司,未经新智我来网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111431405.7/1.html,转载请声明来源钻瓜专利网。