[发明专利]一种神经网络训练方法及装置在审
| 申请号： | 201610930411.X | 申请日： | 2016-10-31 |
| 公开（公告）号： | CN108021981A | 公开（公告）日： | 2018-05-11 |
| 发明（设计）人： | 陈云霁;庄毅敏;郭崎;陈天石 | 申请（专利权）人： | 北京中科寒武纪科技有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 中科专利商标代理有限责任公司 11021 | 代理人： | 任岩 |
| 地址： | 100190 北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种神经网络训练装置及方法，用于对神经网络中的参数进行训练，方法首先采用非线性函数对所述参数进行非线性变换，得到变换参数，然后对变换参数转换进行位宽转换，得到低位宽变换参数，接着，通过神经网络反向过程，获取低位宽变换参数的待更新梯度值，根据非线性函数和所述低位宽变换参数的待更新梯度值，得到非线性变换前参数的待更新梯度值，最后根据参数的待更新梯度值，对参数进行更新。本发明使得训练后的参数具有较低的位宽并且精度损失较小。 | ||
| 搜索关键词： | 一种 神经网络 训练 方法 装置 | ||
【主权项】：
1.一种神经网络训练方法，用于对神经网络中的参数进行训练，其特征在于，方法包括：S1，采用非线性函数对所述参数进行非线性变换，得到变换参数；S2，对所述变换参数转换进行低位宽转换，得到低位宽变换参数；S3，通过神经网络反向过程，获取所述低位宽变换参数的待更新梯度值，根据所述非线性函数和所述低位宽变换参数的待更新梯度值，得到非线性变换前所述参数的待更新梯度值；S4，根据所述参数的待更新梯度值，对所述参数进行更新。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京中科寒武纪科技有限公司，未经北京中科寒武纪科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610930411.X/，转载请声明来源钻瓜专利网。
- 上一篇：火炬长明灯火焰监测装置
- 下一篇：一种礼仪庆典专用可减振且能自动收放的投光灯
