[发明专利]用于神经网络计算的计算设备和计算方法有效
申请号: | 201710025196.3 | 申请日: | 2017-01-13 |
公开(公告)号: | CN108304922B | 公开(公告)日: | 2020-12-15 |
发明(设计)人: | 刘武龙;姚骏;汪玉 | 申请(专利权)人: | 华为技术有限公司;清华大学 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/08 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 张欣;王君 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 神经网络 计算 设备 计算方法 | ||
1.一种用于神经网络计算的计算设备,其特征在于,所述神经网络包括第K神经网络层和第K+1神经网络层,所述第K神经网络层执行的操作包括第一操作,所述第K+1神经网络层执行的操作包括第二操作,其中K为不小于1的正整数,
所述计算设备包括:
第一计算单元,用于对输入的第一矩阵执行M次所述第一操作,得到第二矩阵,M为不小于1的正整数;
第二计算单元,用于对输入的所述第二矩阵执行所述第二操作;
控制单元,用于:
控制所述第一计算单元对所述第一矩阵执行所述M次第一操作中的第i次第一操作,得到所述第二矩阵的第i个数据元素,1≤i≤M;
将所述第二矩阵的第i个数据元素存入第一存储单元中;
在所述第K神经网络层计算完成之前,一旦所述第一存储单元当前存储的数据元素能够用于执行一次第二操作,控制所述第二计算单元执行一次第二操作;
其中,所述第一操作为卷积操作,所述第二操作为卷积操作或池化操作,或所述第一操作为池化操作,所述第二操作为卷积操作。
2.如权利要求1所述的计算设备,其特征在于,所述计算设备包括所述第一存储单元,所述第一存储单元包括第一线缓冲器,所述第一线缓冲器包括N个寄存器,所述第一线缓冲器中的N个寄存器按照行优先或列优先的方式依次存入第三矩阵的每个元素,所述第三矩阵是为了对所述第二矩阵执行所述第二操作对所述第二矩阵进行补0之后得到的矩阵,其中N=(h-1)×(W+p)+w,h表示所述第二操作对应的核的行数,w表示所述第二操作对应的核的列数,W表示所述第二矩阵的列数,p表示为了对所述第二矩阵执行所述第二操作需要对所述第二矩阵补充的0元素的行数或列数,其中h、w、p、W、N均为不小于1的正整数。
3.如权利要求2所述的计算设备,其特征在于,所述第二计算单元为交叉阵列,所述N个寄存器中的X个目标寄存器分别与所述第二计算单元的X行直接连接,所述X个目标寄存器为所述N个寄存器中的第1+k×(W+p)个寄存器至第w+k×(W+p)个寄存器,其中,k为取值从0至h-1的正整数,X=h×w;
所述控制单元具体用于:
将所述第二矩阵的第i个数据元素存入所述第一线缓冲器中;
一旦所述X个目标寄存器当前存储的数据元素能够用于执行一次第二操作,控制所述第二计算单元工作,对所述X个目标寄存器中存储的数据元素执行一次第二操作。
4.如权利要求2所述的计算设备,其特征在于,所述控制单元具体用于:
在第n时钟周期,控制所述第一计算单元对所述第一矩阵执行所述第i次第一操作,得到所述第二矩阵的第i个数据元素,所述第二矩阵的第i个数据元素位于所述第二矩阵的最后一列,所述第二矩阵的第i+1个数据元素位于所述第i个数据元素所在行的下一行的起始位置,或者所述第二矩阵的第i个数据元素位于所述第二矩阵的最后一行,所述第二矩阵的第i+1个数据元素位于所述第i数据元素所在列的下一列的起始位置;
所述控制单元还用于:
在第n+t时钟周期,控制所述第一计算单元对所述第一矩阵执行所述M次第一操作中的第i+1次第一操作,t为大于1的正整数;
在所述第n+1时钟周期至所述第n+t时钟周期之间的至少一个时钟周期,控制所述第一线缓冲器存入0元素。
5.如权利要求4所述的计算设备,其特征在于,t=(s-1)×(W+p)+(w-1),
所述控制单元具体用于:
在所述第n+1时钟周期至所述第n+t时钟周期,控制所述第一线缓冲器依次存入(s-1)×(W+p)+(w-1)个0元素,s表示第一操作的滑动步长。
6.如权利要求1-5中任一项所述的计算设备,其特征在于,所述第一计算单元为交叉阵列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司;清华大学,未经华为技术有限公司;清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710025196.3/1.html,转载请声明来源钻瓜专利网。