[发明专利]一种加速分布式深度神经网络训练的混合流水线并行方法在审
| 申请号： | 202110134151.6 | 申请日： | 2021-01-29 |
| 公开（公告）号： | CN112784968A | 公开（公告）日： | 2021-05-11 |
| 发明（设计）人： | 张竞慧;李剑歌;王宇晨;金嘉晖;东方;罗军舟 | 申请（专利权）人： | 东南大学 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08;G06F9/50 |
| 代理公司： | 南京众联专利代理有限公司 32206 | 代理人： | 杜静静 |
| 地址： | 210096 *** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种加速深度神经网络分布式训练的混合流水线并行方法，主要解决传统GPU集群分布式训练过程中资源利用不充分，无法实现高效分布式训练的问题。本发明的核心机制主要包含三个部分，分别是深度学习模型刻画、模型混合划分与混合流水线并行划分。本发明首先针对深度学习应用在GPU训练过程中的资源需求，刻画出其训练过程中计算量、中间结果通信数量、参数同步量等相应指标，并将其作为模型混合划分与任务放置的输入。然后根据模型刻画结果和GPU集群的环境，设计两个基于动态规划的划分算法，实现模型混合划分与混合流水线并行划分，目的是最小化划分之后各阶段任务执行时间的最大值，以确保负载均衡，实现深度神经网络的高效分布式训练。 | ||
| 搜索关键词： | 一种 加速 分布式 深度 神经网络 训练 混合 流水线 并行 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于东南大学，未经东南大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110134151.6/，转载请声明来源钻瓜专利网。
- 上一篇：一种合成更昔洛韦类似物的方法
- 下一篇：一种氨基甲脒盐酸盐含量分析方法
