[发明专利]支持多线程的数据搬运装置及处理器

权利要求书

1.一种支持多线程的数据搬运装置，包括控制模块、指令缓存、上下文缓存以及以流水线方式运行的数据通路，所述数据通路包括读入DMA模块、数据缓存模块和输出DMA模块，其中所述上下文缓存由所述数据通路中各模块所共享，以及其中：

所述控制模块，用于将接收到的待处理指令保存在指令缓存中，以及将与待处理指令相关的上下文信息保存在上下文缓存中；

读入DMA模块，用于从指令缓存中获取待处理的指令并根据从上下文缓存中获取的与该指令相关的上下文信息读取需要搬运的数据，以及将所读取的数据与相应指令信息一起传递给数据通路中的下一个模块，其中所述相应指令信息用于标识当前指令及其相关的上下文信息；

数据缓存模块，用于根据收到的相应指令信息，从上下文缓存中选择相应的上下文信息，根据所获取的上下文信息对收到的数据和相应指令信息进行缓存，并在所缓存的数据达到输出要求时，将所缓存的数据及其相应指令信息一起传递给数据通路中的下一个模块；

输出DMA模块，用于根据收到的相应指令信息，从上下文缓存中选择相应的上下文信息，根据所获取的上下文信息生成输出地址，并将输出地址和收到的数据一起进行输出。

2.根据权利要求1所述的装置，其中：

读入DMA模块还被配置为：在将所读取的数据与相应指令信息一起传递给数据通路中的下一个模块的同时，向控制模块反馈指令完成信息以及从指令缓存中获取下一条待处理的指令；

输出DMA模块还被配置为：在将输出地址和收到的数据一起进行输出的同时，向控制模块反馈指令完成信息；

控制模块还被配置为：响应于来自读入DMA模块的指令完成信息从指令缓存中清除完成的指令，以及响应于来自输出DMA模块的指令完成信息从上下文缓存中清除与完成的指令相关的上下文信息。

3.根据权利要求1所述的装置，在所述数据通路中还包括算术逻辑单元模块；

所述算术逻辑单元模块，用于：根据从读入DMA模块接收的相应指令信息，从上下文缓存中选择相应的上下文信息，并根据所获取的上下文信息对从读入DMA模块收到的数据执行预设的操作，并将处理后的数据和相应指令信息一起传递给数据缓存模块。

4.根据权利要求3所述的装置，其中所述预设的操作包括以下至少一者：神经网络中激活函数的计算、数据类型转换。

5.根据权利要求1所述的装置，其中所述数据缓存模块被配置为：

根据所获取的上下文信息中关于输出数据的描述信息，对收到的数据执行相应变换操作以得到输出数据，并将变换后的数据和相应指令信息进行缓存。

6.根据权利要求5所述的装置，其中所述变换操作包括下列中一个或多个的组合：旋转、反向、转置、合并、拆分。

7.根据权利要求1所述的装置，其中所述控制模块还被配置为：

接收与指令相关的状态信息，并根据收到的状态信息对上下文缓存中相应指令的上下文信息进行设置或调整。

8.根据权利要求1-7中任一项所述的装置，在所述数据通路中与数据一起沿流水线传递的相应指令信息包括指令标识符，所述数据通路中各模块被配置为根据所述指令标识符从指令缓存中识别相应的指令，以及从上下文缓存中识别与指令相关的上下文信息。

9.根据权利要求1-7中任一项所述的装置，在所述数据通路中与数据一起沿流水线传递的相应指令信息包括指令标识符和上下文标识符，所述数据通路中各模块被配置为根据所述指令标识符从指令缓存中识别相应的指令，以及根据所述上下文标识符从上下文缓存中识别与指令相关的上下文信息。

10.根据权利要求9所述的装置，其中所述控制模块还被配置为：

通过设置指令标识符与上下文标识符之间的映射来建立所述指令缓存中保存的待处理的指令与所述上下文缓存中保存的该指令的相关上下文信息之间的关联关系，所述数据通路中各模块被配置为根据所述关联关系来从上下文缓存中识别与当前处理的指令相关的上下文信息。

11.一种处理器，包括权利要求1-10中任一项所述的多线程数据搬运装置，其用于进行处理器的片上缓存与片外存储器之间的数据传递。