[发明专利]基于分布式通信的神经网络训练方法、装置及存储介质在审
| 申请号： | 202110221266.9 | 申请日： | 2021-02-27 |
| 公开（公告）号： | CN112766502A | 公开（公告）日： | 2021-05-07 |
| 发明（设计）人： | 颜子杰;段江飞;孙鹏;张行程 | 申请（专利权）人： | 上海商汤智能科技有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 广州三环专利商标代理有限公司 44202 | 代理人： | 熊永强;董文俊 |
| 地址： | 200233 上海市徐*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开涉及基于分布式通信的神经网络训练方法、装置及存储介质，该方法包括训练神经网络，将产生的梯度保存在第一梯度序列；根据该第一梯度序列和第二梯度序列，得到累计梯度序列；该第二梯度序列用于记录尚未参与同步的梯度；根据该累计梯度序列计算得到重要度指标序列；获取重要梯度指示序列，根据该重要梯度指示序列确定该累计梯度序列中的重要梯度；根据该重要梯度和该重要度指标序列得到该训练节点的待同步信息；基于该待同步信息进行训练节点间的同步，得到同步后梯度序列和同步后重要梯度指示序列；根据该同步后梯度序列调整该神经网络的参数。本公开可以降低节点通信的频率和数据量，降低通信开销，提升神经网络的训练速度。 | ||
| 搜索关键词： | 基于 分布式 通信 神经网络 训练 方法 装置 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海商汤智能科技有限公司，未经上海商汤智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110221266.9/，转载请声明来源钻瓜专利网。
