[发明专利]用于共享学习的模型处理方法、系统、装置以及电子设备在审

专利信息
申请号: 202010124814.1 申请日: 2020-02-27
公开(公告)号: CN113313245A 公开(公告)日: 2021-08-27
发明(设计)人: 吴帆;吕承飞;吕洪涛;郑臻哲;华立锋;贾荣飞;吴志华;陈贵海 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06N3/08 分类号: G06N3/08;G06F21/62;G06N3/04
代理公司: 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 代理人: 冯德魁;窦晓慧
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 用于 共享 学习 模型 处理 方法 系统 装置 以及 电子设备
【权利要求书】:

1.一种用于共享学习的模型处理方法,包括:

获得针对初始神经网络模型的多个候选模型更新值;其中,所述候选模型更新值为经过训练的神经网络模型与所述初始神经网络模型的差值,所述经过训练的神经网络模型为基于数据集对所述初始神经网络模型进行训练获得的神经网络模型;

根据所述差值的数据属性对所述多个候选模型更新值进行质量评估,获得所述多个候选模型更新值中的每个候选模型更新值的权重;

对所述多个候选模型更新值中的每个候选模型更新值采用带权重的中位数机制,确定对所述初始神经网络模型进行更新的模型更新值;

基于所述对所述初始神经网络模型进行更新的模型更新值,对所述初始神经网络模型进行更新;

其中,所述数据集的数据为终端的音频数据、图像数据、用户行为数据或终端传感器数据中的至少一种。

2.根据权利要求1所述的方法,所述获得针对初始神经网络模型的多个候选模型更新值,包括:

将所述初始神经网络模型发送至用于提供针对初始神经网络模型的多个候选模型更新值的终端;

获得所述终端提供的针对初始神经网络模型的多个候选模型更新值。

3.根据权利要求2所述的方法,所述终端通过以下方式提供针对初始神经网络模型的多个候选模型更新值:

获得多个数据集;

采用所述多个数据集分别对所述初始神经网络模型进行训练,获得多个经过训练的神经网络模型;

将所述多个经过训练的神经网络模型分别与所述初始神经网络模型做差,获得针对初始神经网络模型的多个候选模型更新值。

4.根据权利要求3所述的方法,所述终端提供所述针对初始神经网络模型的多个候选模型更新值之前,还包括将所述针对初始神经网络模型的多个候选模型更新值中的参数值进行量化压缩,获得量化压缩的针对初始神经网络模型的多个候选模型更新值;其中,所述量化压缩是指对所述参数值映射为参数空间内的整数。

5.根据权利要求1所述的方法,所述对所述多个候选模型更新值进行质量评估,获得所述多个候选模型更新值中的每个候选模型更新值的权重,包括:

统计所述候选模型更新值中的参数值出现频率;其中,所述统计所述候选模型更新值中的参数值出现频率是指,分别统计所述多个候选模型更新值中的每个候选模型更新值中的参数值出现频率;

根据所述参数值出现频率,获得参数之间的相关性;

基于所述参数之间的相关性,计算所述候选模型更新值的质量值;

对所述候选模型更新值的质量值进行归一化处理,获得所述多个候选模型更新值中的每个候选模型更新值的权重。

6.根据权利要求5所述的方法,所述统计所述候选模型更新值中的参数值出现频率,包括:

将所述候选模型更新值中的参数值进行划分,获得第一参数值集合与第二参数值集合;其中,所述第一参数值集合与所述第二参数值集合不含有重合的参数值;

判断每个参数值、每个对比参数值以及每个参数值对,在所述第一参数值集合中的第一出现频率、第二出现频率以及第三出现频率;

判断每个参数值、每个对比参数值以及每个参数值对,在所述第二参数值集合中的第四出现频率、第五出现频率以及第六出现频率;

将所述第一出现频率、所述第二出现频率、所述第三出现频率、所述第四出现频率、所述第五出现频率以及所述第六出现频率,作为所述候选模型更新值中的参数值出现频率;

其中,所述对比参数值为对比候选模型更新值中的参数值。

7.根据权利要求6所述的方法,所述根据所述参数值出现频率,获得参数之间的相关性,包括:

将参数值对在所述第一参数值集合中的第三出现频率,与参数值在所述第一参数值集合中的第一出现频率以及对比参数值在所述第一参数值集合中的第二出现频率的乘积做差,获得第一差值;

将参数值对在所述第二参数值集合中的第六出现频率,与参数值在所述第二参数值集合中的第四出现频率以及对比参数值在所述第二参数值集合中的第五出现频率的乘积做差,获得第二差值;

将所述第一差值与所述第二差值,作为所述参数之间的相关性。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010124814.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top