[发明专利]实现模型更新的方法及其设备在审
申请号: | 202010077143.8 | 申请日: | 2020-01-23 |
公开(公告)号: | CN113159332A | 公开(公告)日: | 2021-07-23 |
发明(设计)人: | 司晓云;张亮;胡新宇;吴俊 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N20/20 | 分类号: | G06N20/20 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实现 模型 更新 方法 及其 设备 | ||
1.一种实现模型更新的方法,其特征在于,包括:
服务设备接收至少两个客户端上传的差异信息,所述客户端上传的差异信息是所述客户端基于第一模型训练得到的第二模型相对于所述第一模型的差异信息,所述第一模型由客户端接收自服务设备,所述第二模型为所述客户端基于第一模型进行训练得到;
所述服务设备根据所述至少两个客户端上传的差异信息计算得到第一差异一致信息,所述第一差异一致信息用于表示所述至少两个客户端上传的差异信息的一致程度;
所述服务设备根据所述至少两个客户端上传的差异信息更新所述第一模型得到第三模型;
所述服务设备根据所述第一差异一致信息计算得到第一训练信息,所述第一训练信息用于训练所述第三模型;
所述服务设备向所述至少两个客户端发送所述第一训练信息和所述第三模型。
2.根据权利要求1所述的方法,其特征在于,所述服务设备具体根据以下公式计算得到所述第一差异一致信息:
所述GCRt表示所述第一差异一致信息,所述gi表示所述至少两个客户端中第i个客户端上传的差异信息,i为大于等于1的正整数。
3.根据权利要求1或2所述的方法,其特征在于,所述第一训练信息包括第一训练批次数或第一学习率中的至少一个,所述第一训练批次数用于所述客户端确定训练的批次数,所述第一学习率用于所述客户端确定训练的学习率。
4.根据权利要求3所述的方法,其特征在于,若所述第一训练信息包括所述第一训练批次数,则所述服务设备根据所述第一差异一致信息计算得到的第一训练信息满足下列条件:
若GCRt<GCRt-1,则Et<Et-1;
若GCRt=GCRt-1,则Et=Et-1;
若GCRt>GCRt-1,则Et>Et-1;
所述GCRt-1表示第二差异一致信息,所述第二差异一致信息为在所述服务设备得到所述第一差异一致信息之前所述服务设备计算得到的差异一致信息,所述GCRt表示所述第一差异一致信息,所述Et-1表示第二训练批次数,所述第二训练批次数表示所述服务设备得到所述第一批次数之前所述服务设备下发给所述客户端的训练批次数,所述Et表示所述第一训练批次数信息。
5.根据权利要求3或4所述的方法,其特征在于,若所述第一训练信息包括所述第一学习率,则所述服务设备根据所述第一差异一致信息计算得到第一训练信息满足下列条件:
若GCRt<GCRt-1,则lrt<lrt-1;
若GCRt=GCRt-1,则lrt=lrt-1;
若GCRt>GCRt-1,则lrt>lrt-1;
所述GCRt-1表示第二差异一致信息,所述第二差异一致信息为在所述服务设备得到所述第一差异一致信息之前所述服务设备计算得到的差异一致信息,所述GCRt表示所述第一差异一致信息,所述lrt-1表示第二学习率,所述第二学习率为在所述服务设备得到所述第一学习率之前所述服务设备下发给所述客户端的学习率,所述lrt表示所述第一学习率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010077143.8/1.html,转载请声明来源钻瓜专利网。