[发明专利]一种神经网络分布式训练方法、装置、设备及存储介质在审
| 申请号： | 202011130809.8 | 申请日： | 2020-10-21 |
| 公开（公告）号： | CN112288083A | 公开（公告）日： | 2021-01-29 |
| 发明（设计）人： | 周宇浩;叶庆;张海伦 | 申请（专利权）人： | 周宇浩 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 北京润泽恒知识产权代理有限公司 11319 | 代理人： | 王婷婷 |
| 地址： | 610065 四川省*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请提供了一种神经网络分布式训练方法、装置、设备及存储介质，涉及机器学习技术领域。该方法改进了分布式神经网络的训练架构，提高分布式训练中各个节点的计算资源利用率，包括：针对集群中的每个节点，建立同步进程以及与同步进程并行运行的训练进程；节点根据同步进程的状态信息，确定训练进程的第N个训练周期；在第N个训练周期内，节点对目标神经网络模型进行训练，得到本地梯度；节点累加本地梯度，得到累计梯度；节点在训练进程中进行第N+1个训练周期的训练时，在同步进程中与其他节点同步累计梯度，计算获得第一平均梯度；在节点在同步进程中利用第一平均梯度更新第N个训练周期结束时的目标神经网络模型的参数。 | ||
| 搜索关键词： | 一种 神经网络 分布式 训练 方法 装置 设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于周宇浩，未经周宇浩许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011130809.8/，转载请声明来源钻瓜专利网。
