[发明专利]神经网络的训练方法和装置、系统、存储介质在审
申请号: | 201910123018.3 | 申请日: | 2019-02-19 |
公开(公告)号: | CN109871942A | 公开(公告)日: | 2019-06-11 |
发明(设计)人: | 孙鹏;颜深根 | 申请(专利权)人: | 上海商汤智能科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063 |
代理公司: | 北京思源智汇知识产权代理有限公司 11657 | 代理人: | 毛丽琴 |
地址: | 200233 上海市徐*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: |
本公开实施例公开了一种神经网络的训练方法和装置、系统、存储介质,其中,方法包括:第一处理设备在当前迭代中利用神经网络对当前样本数据进行处理,获得神经网络中多个网络层的第一梯度数据;从第一梯度数据包含的L1个梯度元素中选取N1个梯度元素作为第一重要梯度数据,其中,1≤N1 | ||
搜索关键词: | 神经网络 梯度数据 方法和装置 存储介质 迭代 处理设备 调整处理 反向传播 网络参数 网络流量 样本数据 通信量 网络层 转播 通信 | ||
【主权项】:
1.一种神经网络的训练方法,其特征在于,包括:第一处理设备在当前迭代中利用神经网络对当前样本数据进行处理,获得所述神经网络中多个网络层的第一梯度数据,其中,所述第一梯度数据包括L1个梯度元素;从所述第一梯度数据包含的L1个梯度元素中选取N1个梯度元素作为第一重要梯度数据,其中,1≤N1<L1;基于所述第一重要梯度数据,进行所述当前迭代中的对所述神经网络的网络参数的调整处理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海商汤智能科技有限公司,未经上海商汤智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910123018.3/,转载请声明来源钻瓜专利网。