[发明专利]模型训练方法、装置、设备和介质在审
申请号: | 201910579010.8 | 申请日: | 2019-06-28 |
公开(公告)号: | CN112149706A | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 周旭辉;任兵;杨胜文;刘立萍 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08;H04L9/00 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 装置 设备 介质 | ||
1.一种模型训练方法,其特征在于,由第二方执行,所述方法包括:
基于待训练的网络模型对第二方拥有的特征数据进行预测得到第二方预测结果;
向第一方发送所述第二方预测结果,供第一方执行如下:根据拥有的标签数据和所述第二方预测结果确定残差原文,并对所述残差原文进行同态加密得到残差密文;
根据从所述第一方获取的残差密文和第二方拥有的特征数据,确定第二方梯度密文;
为所述第二方梯度密文添加扰动数据,得到第二方扰动梯度密文;
向第一方发送所述第二方扰动梯度密文,供第一方对所述第二方扰动梯度密文进行同态解密得到第二方扰动梯度;
根据从所述第一方获取的第二方扰动梯度,继续对第二方的网络模型进行训练。
2.根据权利要求1所述的方法,其特征在于,为所述第二方梯度密文添加扰动数据,得到第二方扰动梯度密文,包括:
为所述第二方梯度密文确定扰动原始值;
对所述扰动原始值进行同态加密,得到扰动密文;
根据所述第二方梯度密文和所述扰动密文,确定第二方扰动梯度密文。
3.根据权利要求2所述的方法,其特征在于,根据从所述第一方获取的第二方扰动梯度,继续对第二方的网络模型进行训练,包括:
根据所述扰动原始值,对从所述第二方获取的第二方扰动梯度进行同态解密,得到第二方梯度原文;
根据所述第二方梯度原文,继续对第二方的网络模型进行训练。
4.根据权利要求2所述的方法,其特征在于,所述扰动原始值的绝对值小于扰动阈值。
5.根据权利要求1所述的方法,其特征在于,根据从所述第一方获取的残差密文和第二方拥有的特征数据,确定第二方梯度密文,包括:
采用放大系数对第二方拥有的特征数据进行放大,得到特征放大数据;
根据从所述第一方获取的残差密文和所述特征放大数据,确定第二方梯度密文。
6.一种模型训练方法,其特征在于,由第一方执行,所述方法包括:
根据拥有的标签数据和从第二方获取的第二方预测结果,确定残差原文;其中,所述第二方预测结果由所述第二方基于待训练的网络模型对第二方拥有的特征数据进行预测得到的;
对所述残差原文进行同态加密,得到残差密文;
向所述第二方发送所述残差密文,供所述第二方根据残差密文和第二方拥有的特征数据,确定第二方梯度密文;
对从所述第二方获取的第二方扰动梯度密文进行同态解密,得到第二方扰动梯度,其中,所述第二方扰动梯度密文由所述第二方为所述第二方梯度密文添加扰动数据得到;
向第二方发送所述第二方扰动梯度,供第二方根据所述第二方扰动梯度继续对第二方的网络模型进行训练。
7.根据权利要求6所述的方法,其特征在于,根据拥有的标签数据和从第二方获取的第二方预测结果,确定残差原文,包括:
基于待训练的网络模型对第一方拥有的特征数据进行预测,得到第一方预测结果;
根据所述第一方预测结果和从第二方获取的第二方预测结果,确定综合预测结果;
根据拥有的标签数据和所述综合预测结果,确定残差原文。
8.根据权利要求6所述的方法,其特征在于,对所述残差原文进行同态加密,包括:
对所述残差原文进行同态加法加密。
9.根据权利要求6所述的方法,其特征在于,对所述残差原文进行同态加密,包括:采用放大系数对所述残差原文进行放大,得到放大残差;对所述放大残差进行同态加密;
相应地,对从所述第二方获取的第二方扰动梯度密文进行同态解密,包括:
采用放大系数,对从所述第二方获取的第二方扰动梯度密文进行同态解密,得到第二方扰动梯度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910579010.8/1.html,转载请声明来源钻瓜专利网。