[发明专利]一种模拟神经网络处理器的误差校准方法及装置有效
申请号: | 201810580960.8 | 申请日: | 2018-06-07 |
公开(公告)号: | CN110580523B | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 贾凯歌;乔飞;魏琦;樊子辰;刘辛军;杨华中 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/04;G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;李相雨 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例提供一种模拟神经网络处理器的误差校准方法及装置,所述方法包括:若检测到算法更新和/或误差参数调整,解析所述NN的网络结构,以获取所述网络结构中的全连接层的可训练权重参数;采用随机梯度下降SGD算法对所述可训练权重参数进行训练;其中,在学习过程中的损失值和梯度采用对数量化;所述学习过程是在数字域进行的;采用移位运算代替所述学习过程中的反向传播和可训练权重参数更新使用的乘法运算;存储学习好的权重参数,以供所述NN根据所述权重参数校准所述处理器的误差。所述装置执行上述方法。本发明实施例提供的模拟神经网络处理器的误差校准方法及装置,能够降低模拟NN处理器的能量和资源消耗,从而提高模拟NN处理器的效率。 | ||
搜索关键词: | 一种 模拟 神经网络 处理器 误差 校准 方法 装置 | ||
【主权项】:
1.一种模拟神经网络处理器的误差校准方法,所述方法在模拟神经网络NN处理器中执行,其特征在于,包括:/n若检测到算法更新和/或误差参数调整,解析所述NN的网络结构,以获取所述网络结构中的全连接层的可训练权重参数;/n采用随机梯度下降SGD算法对所述可训练权重参数进行训练;其中,在学习过程中的损失值和梯度采用对数量化;所述学习过程是在数字域进行的;/n采用移位运算代替所述学习过程中的反向传播和可训练权重参数更新使用的乘法运算;/n存储学习好的权重参数,以供所述NN根据所述权重参数校准所述处理器的误差。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810580960.8/,转载请声明来源钻瓜专利网。
- 上一篇:卷积计算方法及相关设备
- 下一篇:使用灵活浮点张量的人工神经网络训练