[发明专利]模型联合训练方法、装置、设备和存储介质在审
申请号: | 202011025747.4 | 申请日: | 2020-09-25 |
公开(公告)号: | CN112016632A | 公开(公告)日: | 2020-12-01 |
发明(设计)人: | 宋传园;冯智;吕亮亮 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N20/20;G06F21/60 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 联合 训练 方法 装置 设备 存储 介质 | ||
1.一种模型联合训练方法,包括:
采用第一样本量的第一方训练样本对待训练的第一方模型进行训练,得到第一方特征梯度信息;
从第二方获取第二方特征梯度信息和第二样本量信息;其中,所述第二方特征梯度信息由所述第二方采用第二样本量的第二方训练样本对待训练的第二方模型进行训练得到;
根据所述第一方特征梯度信息、所述第二方特征梯度信息、第一样本量信息和所述第二样本量信息确定模型联合梯度信息,以及根据所述模型联合梯度信息,更新所述第一方模型和所述第二方模型。
2.根据权利要求1所述的方法,其中,所述第一方训练样本由第一方从第一方样本数据中随机抽样得到,且将随机抽取的样本数量作为所述第一样本量;所述第二方训练样本由所述第二方从第二方样本数据中随机抽样得到,且将随机抽取的样本数量作为所述第二样本量。
3.根据权利要求1或2所述的方法,其中,所述根据所述第一方特征梯度信息、所述第二方特征梯度信息、第一样本量信息和所述第二样本量信息确定模型联合梯度信息,以及根据所述模型联合梯度信息,更新所述第一方模型和所述第二方模型,包括:
根据第一方特征梯度明文、第二方特征梯度明文、第一样本量明文和第二样本量明文,确定模型联合梯度明文;
根据所述模型联合梯度明文更新所述第一方模型;
向所述第二方发送所述模型联合梯度明文,用于指示所述第二方根据所述模型联合梯度明文更新所述第二方模型。
4.根据权利要求1所述的方法,其中,所述根据所述第一方特征梯度信息、所述第二方特征梯度信息、第一样本量信息和所述第二样本量信息确定模型联合梯度信息,以及根据所述模型联合梯度信息,更新所述第一方模型和所述第二方模型,包括:
根据第一方特征梯度密文、第二方特征梯度密文、第一样本量密文和第二样本量密文确定模型联合梯度密文;其中,所述第一方特征梯度密文和所述第一样本量密文由第一方采用从所述第二方获取的第一同态加密密钥分别对第一方特征梯度明文和第一样本量明文进行加密得到;所述第二方特征梯度密文和所述第二样本量密文由所述第二方采用所述第一同态加密密钥分别对第二方特征梯度明文和第二样本量明文进行加密得到;
向所述第二方发送所述模型联合梯度密文,用于指示所述第二方执行如下:采用第二同态加密密钥对所述模型联合梯度密文进行解密得到模型联合梯度明文;根据所述模型联合梯度明文更新所述第二方模型;
从所述第二方获取模型联合梯度明文,且根据所述模型联合梯度明文更新所述第一方模型。
5.根据权利要求1所述的方法,其中,所述第一方训练样本与所述第二方训练样本的数据结构相同。
6.根据权利要求5所述的方法,还包括:
通过安全求交协议,确定第一方样本数据与第二方样本数据之间的共同特征维度;
基于所述共同特征维度,确定所述第一方训练样本和所述第二方训练样本。
7.一种模型联合训练方法,包括:
采用第二样本量的第二方训练样本对待训练的第二方模型进行训练,得到第二方特征梯度信息;
向第一方发送第二样本量信息和所述第二方特征梯度信息,用于指示第一方执行如下:采用第一样本量的第一方训练样本对待训练的第一方模型进行训练,得到第一方特征梯度信息;根据所述第一方特征梯度信息、所述第二方特征梯度信息、第一样本量信息和所述第二样本量信息确定模型联合梯度信息,以及根据所述模型联合梯度信息,更新所述第一方模型和所述第二方模型。
8.根据权利要求7所述的方法,其中,所述第一方训练样本由所述第一方从第一方样本数据中随机抽样得到,且将随机抽取的样本数量作为所述第一样本量;所述第二方训练样本由所述第二方从第二方样本数据中随机抽样得到,且将随机抽取的样本数量作为所述第二样本量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011025747.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种横向磁通电机
- 下一篇:一种辅助老人上下楼梯的装置