[发明专利]数据整合方法、分布式计算节点及分布式深度学习训练系统在审
申请号: | 201910741733.3 | 申请日: | 2019-08-12 |
公开(公告)号: | CN110502544A | 公开(公告)日: | 2019-11-26 |
发明(设计)人: | 朱泓睿;姚成吉;田忠博;户忠哲;张晓扬;元国军 | 申请(专利权)人: | 北京迈格威科技有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06N3/08 |
代理公司: | 11722 北京钲霖知识产权代理有限公司 | 代理人: | 冯志云;李志新<国际申请>=<国际公布> |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开提供了一种数据整合方法、分布式计算节点及分布式深度学习训练系统,其中数据整合方法用于分布式计算节点的数据整合,包括:数据分段步骤;第一发送步骤;第一接收步骤;聚合步骤;汇总步骤。通过多计算节点中对数据进行分段,将数据段分别发送至对应的计算节点,在计算节点内对部分数据段进行聚合,再对数据更新整合,降低了网络对训练造成的影响,提高了效率。 | ||
搜索关键词: | 计算节点 数据整合 分布式计算节点 数据段 发送 聚合步骤 数据分段 数据更新 学习训练 整合 分段 聚合 网络 | ||
【主权项】:
1.一种数据整合方法,用于分布式计算节点的数据整合,其中,所述方法包括:/n数据分段步骤,根据全部计算节点的节点数量,将数据分为多个数据段,所述数据段具有数据段标识,其中,所述计算节点具有节点标识;/n第一发送步骤,根据所述数据段标识和所述节点标识,将所述多个数据段分别向相应的其它所述计算节点发送;/n第一接收步骤,接收其它所述计算节点发送的数据段;/n聚合步骤,根据接收到的数据段及其所述数据段标识,更新相应的所述数据段,得到聚合数据段;/n汇总步骤,基于全部所述计算节点的所述聚合数据段,进行整合,得到整合后的所述数据。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京迈格威科技有限公司,未经北京迈格威科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910741733.3/,转载请声明来源钻瓜专利网。