[发明专利]神经网络模型的分布式训练方法、装置及电子设备有效
申请号: | 201911403480.5 | 申请日: | 2019-12-30 |
公开(公告)号: | CN111160531B | 公开(公告)日: | 2023-09-22 |
发明(设计)人: | 户忠哲;谭光明;姚成吉;田忠博;朱泓睿;张晓扬;肖俊敏 | 申请(专利权)人: | 北京迈格威科技有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/084 |
代理公司: | 北京超凡宏宇知识产权代理有限公司 11463 | 代理人: | 何少岩 |
地址: | 100000 北京市海淀区科*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种神经网络模型的分布式训练方法、装置及电子设备,该方法由分布式计算系统执行,包括:从分布式计算系统确定出第一数量的GPU作为第一目标GPU;基于训练样本集,通过第一目标GPU对初始神经网络模型进行迭代训练,直至达到预设的第一迭代次数,得到中间神经网络模型;从分布式计算系统确定出第二数量的GPU作为第二目标GPU;通过第二目标GPU对中间神经网络模型进行迭代训练,直至达到预设的第二迭代次数,得到最终神经网络模型;其中,第二数量大于第一数量,和/或,第二目标GPU单次迭代处理的训练样本数量大于第一目标GPU单次迭代处理的训练样本数量。本发明缩短神经网络模型训练时间的同时,使训练后的神经网络模型精度丢失较少。 | ||
搜索关键词: | 神经网络 模型 分布式 训练 方法 装置 电子设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京迈格威科技有限公司,未经北京迈格威科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911403480.5/,转载请声明来源钻瓜专利网。