[发明专利]一种加大深度学习训练数据量的方法在审
| 申请号： | 201910510397.1 | 申请日： | 2019-06-13 |
| 公开（公告）号： | CN112085179A | 公开（公告）日： | 2020-12-15 |
| 发明（设计）人： | 刘若鹏;栾琳;季春霖;陈峰 | 申请（专利权）人： | 杭州光启人工智能研究院 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 311100 浙江省杭州市余杭*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种加大深度学习训练数据量的方法，包括S1、根据数据量总量确定更新梯度的批量，根据内存或者显存数据确定计算梯度的子批量；S2、计算更新梯度的批量大小包含的子批量数量，所述更新梯度的批量包含的子批量数量为更新梯度的批量与计算梯度的子批量的商；S3、在更新梯度的批量大小包含的子批量数量的数据上运行网络的前向传播，然后进行反向传播以计算相对于网络参数的梯度；S4、执行步骤S3更新梯度的批量大小包含的子批量数量次，对更新梯度的批量大小包含的子批量数量个梯度累加后取平均梯度；S5、用平均梯度更新模型参数。训练更稳定，训练效果更好；加快训练进程；让内存有限的CPU和显存有限的GPU可以用于训练大型网络。 | ||
| 搜索关键词： | 一种 加大 深度 学习 训练 数据量 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于杭州光启人工智能研究院，未经杭州光启人工智能研究院许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910510397.1/，转载请声明来源钻瓜专利网。
- 上一篇：快速平面度/断差检测装置
- 下一篇：拣选复核装置、方法和系统
