[发明专利]多GPU并行训练的归一化处理方法、装置和系统有效
| 申请号： | 201810940929.0 | 申请日： | 2018-08-17 |
| 公开（公告）号： | CN110837395B | 公开（公告）日： | 2022-03-25 |
| 发明（设计）人： | 秦连柯;龚轶凡 | 申请（专利权）人： | 北京图森智途科技有限公司 |
| 主分类号： | G06F9/38 | 分类号： | G06F9/38;G06F15/16;G06N3/08;G06T1/20 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 101300 北京市顺*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开多GPU并行训练的归一化处理方法、装置和系统，用以解决现有技术使用多GPU并行训练深度神经网络的归一化处理中，处理速度慢、处理效率低的问题。该方法包括：CPU接收来自一个GPU的当前并行迭代训练得到的模型的预测精度，并确定预测精度的增长值；在预测精度的增长值小于预定增长阈值的情况下，将全部GPU划分为至少一个GPU组；接收分别来自各GPU的本地归一化参数，根据一个GPU组内各个GPU的本地归一化参数，确定该GPU组的全局归一化参数；将确定的各个全局归一化参数发送给对应的GPU组中的各GPU，以使GPU组内的各GPU根据接收到的全局归一化参数进行归一化处理。 | ||
| 搜索关键词： | gpu 并行 训练 归一化 处理 方法 装置 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京图森智途科技有限公司，未经北京图森智途科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810940929.0/，转载请声明来源钻瓜专利网。
- 上一篇：改性Y型分子筛及其制备方法和应用
- 下一篇：催化裂化催化剂及其制备方法和应用
