[发明专利]用于神经网络中训练参数集的系统和方法在审
申请号: | 201510036813.0 | 申请日: | 2015-01-26 |
公开(公告)号: | CN105894087A | 公开(公告)日: | 2016-08-24 |
发明(设计)人: | 陈嘉;曾嘉 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 毛威;肖鹂 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种用于神经网络中训练参数集的系统和方法,该系统包括:主控节点集合,用于控制训练过程,并用于存储训练所使用的数据集和参数集,主控节点集合包括M个主控节点,M个主控节点两两之间通信连接,M个主控节点中的至少一个主控节点用于备份参数集;以及N个训练节点集合,训练节点集合包括多个训练节点,训练节点用于根据主控节点集合下发的数据集和参数集进行训练,并将训练结果发送给相应的主控节点。本发明实施例的系统和方法可以避免当某一个主控节点失效时导致的整个训练失败情况,提高训练过程的可靠性,通过配置多个训练节点集合并行地进行训练,提高训练效率。 | ||
搜索关键词: | 用于 神经网络 训练 参数 系统 方法 | ||
【主权项】:
一种用于神经网络中训练参数集的系统,其特征在于,所述系统包括:主控节点集合,所述主控节点集合包括M个主控节点,所述主控节点集合用于控制所述神经网络中训练参数集的过程,并用于存储所述训练参数集的过程所使用的数据集和参数集,所述数据集包括多个数据子集,所述参数集包括多个参数子集,所述多个参数子集分别存储于不同的主控节点上,所述主控节点集合中的所有主控节点存储的参数子集的合集为所述参数集,所述M个主控节点两两之间通信连接,所述M个主控节点中的至少一个主控节点用于备份所述参数集,其中,M为大于1的正整数;以及N个训练节点集合,所述N个训练节点集合中的每一个训练节点集合与所述主控节点集合通信连接,所述训练节点集合包括多个训练节点,所述训练节点用于接收所述主控节点集合下发的数据子集和所述参数集,根据接收的所述数据子集和所述参数集,对自身负责的参数子集进行训练,并将训练结果发送给存储所述参数子集的主控节点,其中,N为大于1的正整数,所述N个训练节点集合中的任意两个训练节点集合训练所使用的数据子集不同,所述每个训练节点集合中的所有训练节点所训练的参数子集的合集为所述参数集。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510036813.0/,转载请声明来源钻瓜专利网。
- 上一篇:光伏板支架
- 下一篇:一种跑步机用三相交流异步电机调速控制系统