[发明专利]一种用于执行batch normalization运算的装置和方法有效
申请号: | 201610282550.6 | 申请日: | 2016-04-29 |
公开(公告)号: | CN107341546B | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 刘少礼;于涌;陈云霁;陈天石 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/06 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 周天宇 |
地址: | 100190 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开公开了一种用于执行batch normalization运算的装置,包括运算模块。使用该装置可以实现多层人工神经网络中的batch normalization运算。对于batch normalization运算来说,在正向过程中,用输入减去均值除以方差与极小量定值eps和的平方根。之后乘以学习参数alpha加上学习参数beta得到该层输出。在反向训练过程中,将输入梯度向量减去梯度向量的均值向量之后再减去梯度向量与正向得到的输出的乘积的均值乘以输出,得到的差值除以正向中的方差与极小定值和的平方根,得到该层的输出梯度向量。本公开有效提高了对人工神经网络中batch normalization正反向运算的支持。 | ||
搜索关键词: | 一种 用于 执行 batch normalization 运算 装置 方法 | ||
【主权项】:
一种用于执行batch normalization运算的装置,包括指令存储单元、控制器单元、数据访问单元和运算模块,其中,所述指令存储单元通过数据访问单元读入指令并缓存读入的指令;所述控制器单元从指令存储单元中读取指令,将指令译码成控制其他单元或模块行为的微指令,然后将各自的微指令分发至各个单元或模块;所述数据访问单元用于访问外部地址空间,完成数据的加载和存储;所述运算模块用于batch normalization运算的正向过程或反向过程。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610282550.6/,转载请声明来源钻瓜专利网。