[发明专利]基于芯粒架构的多核封装级系统及其面向芯粒的任务映射方法

权利要求书

1.基于芯粒架构的多核封装级系统，其特征在于，包括核心单元、芯粒单元和封装单元；

所述的核心单元包括多个并行的处理单元，以及多个处理单元共享的L1本地缓冲单元；L1本地缓冲单元仅用于存储权重数据；

所述的芯粒单元包括多个并行的核心单元，以及多个核心单元共享的L2共享缓冲单元；L2共享缓冲单元仅用于存储激活数据；

所述的封装单元包括多个并行且互联的芯粒单元，以及多个芯粒单元共享的DRAM存储。

2.根据权利要求1所述的基于芯粒架构的多核封装级系统，其特征在于，所述的封装单元中多个的芯粒单元之间采用环状总线进行环状互联。

3.根据权利要求1所述的基于芯粒架构的多核封装级系统，其特征在于，所述的芯粒层级和封装层级采用输出稳定数据流OS，在核心层级上采用权重稳定数据流WS。

4.根据权利要求1所述的基于芯粒架构的多核封装级系统，其特征在于，L1本地缓冲单元中，输入采用SRAM进行缓冲，输出采用寄存器缓冲。

5.基于芯粒架构的多核封装级系统面向芯粒的任务映射方法，其特征在于，基于芯粒架构的多核封装级系统如权利要求1-4任意一项所述，所述方法包括，

在核心单元进行任务处理的核心层级上，任意核心单元内的多个处理单元并行处理该核心单元任务；

在芯粒单元进行任务处理的芯粒层级上，任意芯粒单元内的多个核心单元并行处理该芯粒单元任务；

在封装单元进行任务处理的封装层级上，任意封装单元内的多个芯粒单元并行处理该封装单元任务；

将各层级中的不同并行单元进行划分，以并行单元一次处理的量为单位，规划循环展开的次序以及次数，对各层级中的任务进行处理。

6.根据权利要求5所述的基于芯粒架构的多核封装级系统面向芯粒的任务映射方法，其特征在于，在核心单元任务处理时，

采用多组向量乘法对不同处理单元进行划分处理核心单元任务，实现对输出通道并行度为向量乘法组数的输出；

采用WS数据流形式，将固定权重在缓冲端口的数据复用输出缓冲矩阵大小的次数，遍历一个卷积核尺寸大小的权重进行累加计算，实现对输入通道的累加计算。

7.根据权利要求5所述的基于芯粒架构的多核封装级系统面向芯粒的任务映射方法，其特征在于，在芯粒单元任务处理时，

采用Kc，Xc和Yc三个维度对核心单元进行划分对芯粒单元任务进行处理；其中，Xc和Yc为特征图的长宽大小；Kc为输出通道数量；

在一个芯粒单元的若干核心单元中，对Kc-Yc-Xc进行不同数目的分配，对划分后的芯粒单元任务进行处理。

8.根据权利要求5所述的基于芯粒架构的多核封装级系统面向芯粒的任务映射方法，其特征在于，在封装单元任务处理时，

当多个芯粒单元之间以输出通道维度切割封装单元任务，多个芯粒单元之间共用相同的激活输入；按照输入通道划分为Kp组分配到不同的芯粒单元上，每组包含C0×C1个输入通道；其中，Kp为输出通道维度，C0为多组向量乘法中每组向量乘法的规模，C1为核心层级中的循环系数；当芯粒单元完成一组运算后，将按照环状互联把本地的一组激活输入传送到下一个芯粒单元，同时接收来自前一个芯粒单元的一组激活输入；循环传递Kp次后，完成所有输入通道的累加计算；

当多个芯粒单元之间以平面方向切割封装单元任务时，多个芯粒单元之间将会共用相同的权重；按照输出通道划分Yp组分配到不同芯粒单元上，每组包含K0个输出通道；其中，Yp为平面方向维度，K0为多组向量乘法中向量乘法的组数；当芯粒单元完成一组运算后，将按照环状互联将本地的一组权重传送到下一个芯粒单元，同时接收来自前一个芯粒单元的一组权重；循环传递Yp-1次后，完成Yp×K0组输出通道的计算；

采用Y2-X2-K2或K2-Y2-X2的循环次序，对划分后的封装单元任务进行处理；其中，Y2-X2-K2为行循环—列循环—输出通道循环次序；K2-Y2-X2为输出通道循环-行循环-列循环次序。