[发明专利]一种动态调整Batch-size的神经网络分布式训练方法有效
| 申请号： | 202010561810.X | 申请日： | 2020-06-18 |
| 公开（公告）号： | CN111507474B | 公开（公告）日： | 2022-07-01 |
| 发明（设计）人： | 吕建成;叶庆;周宇浩;刘权辉;孙亚楠;彭德中;桑永胜;彭玺 | 申请（专利权）人： | 四川大学 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/063;G06N3/04;G06K9/62 |
| 代理公司： | 北京正华智诚专利代理事务所(普通合伙) 11870 | 代理人： | 代维凡 |
| 地址： | 610064 四川*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种动态调整Batch‑size的神经网络分布式训练方法，涉及计算机神经网络分布式训练技术领域，该方法从处理训练数据集的角度出发，对于分布式集群中的每一计算节点，根据其计算力，动态调整Batch‑size和子数据集的划分。从而实现分布式训练集群的负载均衡处理。动态调整Batch‑size的分布式神经网络训练方法不仅可以充分利用各个计算节点的计算能力，还能保证各个计算节点完成本地数据集训练的时间大致相同，从而减少集群的同步开销，提高神经网络分布式训练效率，减少神经网络训练时间。 | ||
| 搜索关键词： | 一种 动态 调整 batch size 神经网络 分布式 训练 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于四川大学，未经四川大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010561810.X/，转载请声明来源钻瓜专利网。
- 上一篇：一种疏通式马桶
- 下一篇：一种微纳光纤波导调制器
