[发明专利]并行训练中突破内存限制的方法、系统、设备及存储介质有效
| 申请号： | 202210809408.8 | 申请日： | 2022-07-11 |
| 公开（公告）号： | CN114880130B | 公开（公告）日： | 2022-10-28 |
| 发明（设计）人： | 于笑颜;李诚;周泉;王海权;吴思;许胤龙 | 申请（专利权）人： | 中国科学技术大学 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50;G06F15/173;G06N3/04;G06N3/063;G06N3/08 |
| 代理公司： | 北京凯特来知识产权代理有限公司 11260 | 代理人： | 郑立明;韩珂 |
| 地址： | 230026 安*** | 国省代码： | 安徽;34 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种并行训练中突破内存限制的方法、系统、设备及存储介质，应用于分布式深度学习流水线并行训练场景下，包括：剖析模型，规划内存压缩策略，策略评估和生成最佳内存压缩策略，模型训练与内存压缩的集成等步骤。与传统方法相比，本发明计算出训练任务和GPU之间的最佳映射，以最大限度地利用D2D的性能优势，充分利用系统内存，聚合GPU间多条直连高速链路，获得高倍速通信带宽；而且，本发明混合采用了重新计算、GPU‑CPU交换，以进一步增加D2D交换的潜力，使得模型训练能够突破内存限制，从而提高训练效率。 | ||
| 搜索关键词： | 并行 训练 突破 内存 限制 方法 系统 设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学技术大学，未经中国科学技术大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210809408.8/，转载请声明来源钻瓜专利网。
