[发明专利]运算装置及方法有效
申请号: | 201811440484.6 | 申请日: | 2017-10-30 |
公开(公告)号: | CN109522254B | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F13/28 | 分类号: | G06F13/28 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 运算 装置 方法 | ||
本公开提供了一种运算装置及方法,其中,该装置包括:存储器、标量数据存储单元、运算单元、控制单元和传输单元,所述传输单元,用于对目标数据进行传输,目标数据包括运算装置中的任一待传输的数据;传输单元包括寄存器模块和直接内存访问DMA控制模块,寄存器模块,用于存储目标数据在源存储器中存储的源地址、所述目标数据在目的存储器中存储的目的地址和每次传输目标数据的数据量;DMA控制模块,用于接收DMA指令,并根据所述DMA指令从所述寄存器模块或所述DMA指令获取目标数据的源地址和目的地址,通过本公开的装置及方法,可以解决现有技术中存在的矩阵传送效率低下、多组数据交替传送时缺失过多的问题。
技术领域
本发明涉及计算机科学技术领域,尤其涉及一种运算装置及方法。
背景技术
直接内存访问(Direct Memory Access,DMA)是计算机科学中的一种内存访问技术。它允许某些硬件子系统(外存储器)独立地直接读写系统内存,而不需CPU介入处理。在同等程度的处理器负担下,DMA是一种快速的数据传送方式。有时,数据除了往来处理器和外存储器之间之外,还需要在多个存储空间之间转移。我们并不希望让处理器在这种情况下也忙于数据拷贝,而DMA就可以负担起此类工作,减少了系统资源的占用。此外,DMA的传送能力并不总是用来移动数据,也可以用于将存储在外存储器中的将要运行的代码提前送入内存,加快执行效率。
DMA控制器需要指令支持,才能正确执行处理器布置的多种任务。对于任何类型的DMA传输,都需要规定源端地址、目标端地址和待传送数据的大小。这种类型的事务代表了简单的一维(“1D”)统一“跨度”(unity stride)的传输。不过,虽然1D DMA得到了广泛的应用,但用处更大的则是二维(2D)DMA,特别是在图像、视频等应用中。2DDMA可以简单地理解为一个嵌套的循环,亦即对一个矩阵的行和列分别操作,最终完成遍历,每一层循环都相当于一个1D DMA。
而更复杂的DMA装置往往会同时与多个外存储器相连,一段时间内CPU需要交替从这些外存储器中获取多组数据,这些数据是根据任务所需不时切换的,但在同组内又是连续的。这时DMA装置需要正确识别相关指令,确保同组数据的缓存尽可能命中,不受其他组的数据传送的影响。
发明内容
本发明实施例提供的一种运算装置及方法,在图像、视频处理的应用场景下极大地提升了数据传送的效率和规范程度,弥补了数据密集型计算任务的I/O短板。
第一方面,本申请实施例提供了一种运算装置,所述运算装置包括存储器、标量数据存储单元、运算单元、控制单元和传输单元,其中,
所述存储器,用于存储矩阵;
所述标量数据存储单元,用于存储标量数据,所述标量数据至少包括:所述矩阵在所述存储器内的存储地址;
所述控制单元,用于控制所述运算单元获取第一运算指令,所述第一运算指令包括执行所述第一运算指令所需的矩阵读取指示;
所述运算单元,用于依据所述矩阵读取指示向所述存储器发送读取命令;采用批量读取方式读取所述矩阵读取指示对应的矩阵,对该矩阵执行所述第一运算指令;
所述传输单元,用于对目标数据进行传输,所述目标数据包括所述运算装置中的任一待传输的数据;
所述传输单元包括寄存器模块和直接内存访问DMA控制模块,其中,
所述寄存器模块,用于存储目标数据在源存储器中存储的源地址、所述目标数据在目的存储器中存储的目的地址和每次传输目标数据的数据量;
所述DMA控制模块,用于接收DMA指令,并根据所述DMA指令从所述寄存器模块或所述DMA指令获取目标数据的源地址和目的地址;
所述DMA控制模块,还用于根据所述目标数据的源地址从所述源存储器中获取所述目标数据,并将所述目标数据传输至所述目的存储器中所述目标数据的目的地址对应的存储空间;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811440484.6/2.html,转载请声明来源钻瓜专利网。