[发明专利]用于共享学习的模型处理方法、系统、装置以及电子设备在审
申请号: | 202010124814.1 | 申请日: | 2020-02-27 |
公开(公告)号: | CN113313245A | 公开(公告)日: | 2021-08-27 |
发明(设计)人: | 吴帆;吕承飞;吕洪涛;郑臻哲;华立锋;贾荣飞;吴志华;陈贵海 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F21/62;G06N3/04 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 冯德魁;窦晓慧 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 共享 学习 模型 处理 方法 系统 装置 以及 电子设备 | ||
1.一种用于共享学习的模型处理方法,包括:
获得针对初始神经网络模型的多个候选模型更新值;其中,所述候选模型更新值为经过训练的神经网络模型与所述初始神经网络模型的差值,所述经过训练的神经网络模型为基于数据集对所述初始神经网络模型进行训练获得的神经网络模型;
根据所述差值的数据属性对所述多个候选模型更新值进行质量评估,获得所述多个候选模型更新值中的每个候选模型更新值的权重;
对所述多个候选模型更新值中的每个候选模型更新值采用带权重的中位数机制,确定对所述初始神经网络模型进行更新的模型更新值;
基于所述对所述初始神经网络模型进行更新的模型更新值,对所述初始神经网络模型进行更新;
其中,所述数据集的数据为终端的音频数据、图像数据、用户行为数据或终端传感器数据中的至少一种。
2.根据权利要求1所述的方法,所述获得针对初始神经网络模型的多个候选模型更新值,包括:
将所述初始神经网络模型发送至用于提供针对初始神经网络模型的多个候选模型更新值的终端;
获得所述终端提供的针对初始神经网络模型的多个候选模型更新值。
3.根据权利要求2所述的方法,所述终端通过以下方式提供针对初始神经网络模型的多个候选模型更新值:
获得多个数据集;
采用所述多个数据集分别对所述初始神经网络模型进行训练,获得多个经过训练的神经网络模型;
将所述多个经过训练的神经网络模型分别与所述初始神经网络模型做差,获得针对初始神经网络模型的多个候选模型更新值。
4.根据权利要求3所述的方法,所述终端提供所述针对初始神经网络模型的多个候选模型更新值之前,还包括将所述针对初始神经网络模型的多个候选模型更新值中的参数值进行量化压缩,获得量化压缩的针对初始神经网络模型的多个候选模型更新值;其中,所述量化压缩是指对所述参数值映射为参数空间内的整数。
5.根据权利要求1所述的方法,所述对所述多个候选模型更新值进行质量评估,获得所述多个候选模型更新值中的每个候选模型更新值的权重,包括:
统计所述候选模型更新值中的参数值出现频率;其中,所述统计所述候选模型更新值中的参数值出现频率是指,分别统计所述多个候选模型更新值中的每个候选模型更新值中的参数值出现频率;
根据所述参数值出现频率,获得参数之间的相关性;
基于所述参数之间的相关性,计算所述候选模型更新值的质量值;
对所述候选模型更新值的质量值进行归一化处理,获得所述多个候选模型更新值中的每个候选模型更新值的权重。
6.根据权利要求5所述的方法,所述统计所述候选模型更新值中的参数值出现频率,包括:
将所述候选模型更新值中的参数值进行划分,获得第一参数值集合与第二参数值集合;其中,所述第一参数值集合与所述第二参数值集合不含有重合的参数值;
判断每个参数值、每个对比参数值以及每个参数值对,在所述第一参数值集合中的第一出现频率、第二出现频率以及第三出现频率;
判断每个参数值、每个对比参数值以及每个参数值对,在所述第二参数值集合中的第四出现频率、第五出现频率以及第六出现频率;
将所述第一出现频率、所述第二出现频率、所述第三出现频率、所述第四出现频率、所述第五出现频率以及所述第六出现频率,作为所述候选模型更新值中的参数值出现频率;
其中,所述对比参数值为对比候选模型更新值中的参数值。
7.根据权利要求6所述的方法,所述根据所述参数值出现频率,获得参数之间的相关性,包括:
将参数值对在所述第一参数值集合中的第三出现频率,与参数值在所述第一参数值集合中的第一出现频率以及对比参数值在所述第一参数值集合中的第二出现频率的乘积做差,获得第一差值;
将参数值对在所述第二参数值集合中的第六出现频率,与参数值在所述第二参数值集合中的第四出现频率以及对比参数值在所述第二参数值集合中的第五出现频率的乘积做差,获得第二差值;
将所述第一差值与所述第二差值,作为所述参数之间的相关性。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010124814.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:洗涤剂推荐方法及设备
- 下一篇:估算电池可用荷电状态的设备、方法和系统