[发明专利]一种基于神经网络的参数更新方法、分布式训练平台系统在审
| 申请号： | 202010110959.6 | 申请日： | 2020-02-21 |
| 公开（公告）号： | CN113298222A | 公开（公告）日： | 2021-08-24 |
| 发明（设计）人： | 张曼妮;李杨;张翔宇;孙军欢 | 申请（专利权）人： | 深圳致星科技有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08;G06T1/20 |
| 代理公司： | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人： | 何姣 |
| 地址： | 518000 广东省深圳市南山区粤海街道高新*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种基于神经网络的参数更新方法、分布式训练平台系统。其中，根据设备内和设备间GPU的分阶段聚合，以及在设备间首节点GPU(Leader GPU)采用高效的Allreduce方式进行参数聚合，以避免中心化的PS(Parameter Server)参数聚合通信模型对多机多GPU集群可扩展性的限制；另外也可避免去中心化的Ring‑Allreduce方式在超大规模GPU集群需求下数据通信存在延时开销的问题。 | ||
| 搜索关键词： | 一种 基于 神经网络 参数 更新 方法 分布式 训练 平台 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳致星科技有限公司，未经深圳致星科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010110959.6/，转载请声明来源钻瓜专利网。
