[发明专利]一种网络重置方法及基于此的加速分布式训练方法和系统在审
申请号: | 202010055765.0 | 申请日: | 2020-01-17 |
公开(公告)号: | CN113138831A | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | 张翔宇;张曼妮;李杨;孙军欢 | 申请(专利权)人: | 深圳致星科技有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06N20/00;H04L12/06;H04L12/24;H04L29/08 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 何姣 |
地址: | 518000 广东省深圳市南山区粤海街道高新*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种网络重置方法及基于此的加速分布式训练方法和系统。其中,首先提供一种分布式训练过程中训练数据传输网络重置的方法,通过使所有运行着训练进程的虚拟节点构成一个逻辑环以及从逻辑环的起始节点起向下游的正向收集全局RDMA网络配置和从终止节点起向上游的反向同步全局RDMA网络配置过程,使各节点训练进程都获得全局RDMA网络配置,并根据其重置训练集群中的训练数据传输网络为RDMA网络。在此基础上,进一步提供一种基于高效通信网络的加速分布式训练方法、系统,在分布式训练过程中重置训练数据传输网络为RDMA网络,利用RDMA网络高效传输训练数据,克服训练数据传输通信瓶颈问题,提升训练效率。 | ||
搜索关键词: | 一种 网络 重置 方法 基于 加速 分布式 训练 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳致星科技有限公司,未经深圳致星科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010055765.0/,转载请声明来源钻瓜专利网。