[发明专利]运算装置及方法有效
申请号: | 201811440484.6 | 申请日: | 2017-10-30 |
公开(公告)号: | CN109522254B | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F13/28 | 分类号: | G06F13/28 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 运算 装置 方法 | ||
1.一种运算装置,其特征在于,所述运算装置包括存储器、标量数据存储单元、运算单元、控制单元和传输单元,其中,
所述存储器,用于存储矩阵;
所述标量数据存储单元,用于存储标量数据,所述标量数据至少包括:所述矩阵在所述存储器内的存储地址;
所述控制单元,用于控制所述运算单元获取第一运算指令,所述第一运算指令包括执行所述第一运算指令所需的矩阵读取指示;
所述运算单元,用于依据所述矩阵读取指示向所述存储器发送读取命令;采用批量读取方式读取所述矩阵读取指示对应的矩阵,对该矩阵执行所述第一运算指令;
所述传输单元,用于对目标数据进行传输,所述目标数据包括所述运算装置中的任一待传输的数据;
所述传输单元包括寄存器模块和直接内存访问DMA控制模块,其中,
所述寄存器模块,用于存储目标数据在源存储器中存储的源地址、所述目标数据在目的存储器中存储的目的地址和每次传输目标数据的数据量;
所述DMA控制模块,用于接收DMA指令,并根据所述DMA指令从所述寄存器模块或所述DMA指令获取目标数据的源地址和目的地址;
所述DMA控制模块,还用于根据所述目标数据的源地址从所述源存储器中获取所述目标数据,并将所述目标数据传输至所述目的存储器中所述目标数据的目的地址对应的存储空间;
其中,所述源存储器为所述目标数据的存储空间,所述目的存储器用于存储传输后的目标数据;
所述DMA控制模块具体用于:
根据所述DMA指令从所述寄存器模块中或者从所述DMA指令中获取所述每次传输目标数据的数据量;
根据所述每次传输目标数据的数据量将所述目标数据传输至所述目的存储器中所述目标数据的目的地址对应的存储空间。
2.根据权利要求1所述的装置,其特征在于,所述运算单元包括至少一个运算器,所述运算器包括:矩阵加法运算器、矩阵乘法运算器、大小比较运算器、非线性运算器和/或矩阵标量乘法运算器。
3.根据权利要求1或2所述的装置,其特征在于,所述运算单元还用于对矩阵执行n级流水级运算,对所述矩阵执行n级流水级运算包括:
对所述矩阵执行第一流水级的计算,得到第一结果;
将所述第一结果输入到第二流水级,所述第二流水级对所述第一结果执行第二流水级的计算,得到第二结果;
重复上述步骤,直至执行完第n-1流水级的计算,得到第n-1计算结果,其中,n为大于1的正整数;
将所述第n-1计算结果输入到第n流水级,所述第n流水级对所述第n-1结果执行第n流水级的计算,得到第n结果,以及将所述第n结果输入到所述存储器。
4.根据权利要求3所述的装置,其特征在于,若所述n=3,则所述第一流水级至少包括:矩阵加法计算器、矩阵乘法计算器;
所述第二流水级至少包括:大小比较计算器;
第三流水级至少包括:非线性运算器、矩阵标量乘法器。
5.根据权利要求1至4任一项所述的装置,其特征在于,所述控制单元还用于:
所述矩阵乘向量指令与矩阵乘向量指令之前的运算指令是否存在关联关系,若存在关联关系,将矩阵乘向量指令存储到缓存单元,若不存在关联关系,则通过传输单元将所述矩阵乘向量指令传输至运算单元。
6.根据权利要求1所述的装置,其特征在于,所述控制单元包括:取指模块、译码模块和指令队列模块,其中,
所述取指模,用于从指令缓存单元中获取运算指令;
所述译码模块,用于对获取的运算指令进行译码;
所述指令队列,用于对译码后的运算指令进行顺序存储。
7.根据权利要求1-6任一项所述的装置,其特征在于,所述寄存器模块包括:
标量寄存器堆,用于存储数据规模、目标数据的源地址和目标数据的目的地址,目标数据在所述源地址的摆放间隔大小、目标数据在所述目的地址的摆放间隔大小、访问次数和数据变换规模;
其中所述数据规模为所述目标数据的每次传输的数据量、所述数据变换规模为所述目标数据进行数据变换的数据量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811440484.6/1.html,转载请声明来源钻瓜专利网。