[发明专利]将卷积映射到通道卷积引擎

权利要求书

1.一种处理器系统，包括：

第一组寄存器，其被配置为存储卷积数据矩阵的一部分的多个通道的数据元素，其中，所述第一组寄存器中的每个寄存器存储来自所述多个通道中每个通道的至少一个数据元素；

第二组寄存器，其被配置为存储多个卷积权重矩阵的数据元素，所述多个卷积权重矩阵包括所述多个通道中每个通道的独立卷积权重矩阵，其中，所述第二组寄存器中的每个寄存器存储来自所述多个卷积权重矩阵中每个卷积权重矩阵的至少一个数据元素；以及

硬件通道卷积处理器单元，其被配置为：

对于所述第一组寄存器中的每个数据元素，将所述第一组寄存器中的该数据元素与所述第二组寄存器中的对应数据元素相乘，以确定相乘结果中的对应相乘结果；以及

对于所述多个通道中的每个特定通道，将所述相乘结果中对应于该特定通道的相乘结果相加在一起，以确定对应通道卷积结果矩阵中一个对应的通道卷积结果数据元素。

2.根据权利要求1所述的系统，其中，所述第一组寄存器的存储数据元素的总计数与所述第二组寄存器的存储数据元素的总计数相同。

3.根据权利要求1所述的系统，其中，所述硬件通道卷积处理器单元包括多个计算单元，并且所述多个计算单元中的每个计算单元被配置为接收所述第一组寄存器的对应于所述卷积数据矩阵的同一通道的多个数据元素和所述第二组寄存器的对应于所述卷积数据矩阵的所述同一通道的独立卷积权重矩阵的多个对应数据元素。

4.根据权利要求3所述的系统，其中，所述多个计算单元中的每个计算单元包括不同的向量乘法单元和不同的向量加法器单元。

5.根据权利要求4所述的系统，其中，所述不同的向量加法器单元中的每一个包括不同的加法器树。

6.根据权利要求1所述的系统，其中，所述卷积数据矩阵是三维机器学习数据矩阵。

7.根据权利要求1所述的系统，还包括数据输入单元，所述数据输入单元被配置为：将存储在所述第一组寄存器中的数据元素按通道处理成多个数据输入向量，其中，所述多个数据输入向量中的每一个包括对应于所述卷积数据矩阵的二维子矩阵的数据元素。

8.根据权利要求1所述的系统，还包括权重输入单元，所述权重输入单元被配置为：将存储在所述第二组寄存器中的数据元素处理成多个权重输入向量，其中，所述多个权重输入向量中的每一个包括对应于所述多个卷积权重矩阵之一的数据元素。

9.根据权利要求1所述的系统，其中，所述多个卷积权重矩阵中的每一个是3x3矩阵、5x5矩阵、7x7矩阵、9x9矩阵或11x11矩阵。

10.根据权利要求1所述的系统，其中，存储在所述第一组寄存器中的数据元素是4位元素、8位元素、2字节元素或4字节元素。

11.根据权利要求1所述的系统，其中，所述第一组寄存器中的每个寄存器的存储数据元素的总计数是缓存行大小的倍数。

12.一种方法，包括：

接收指定卷积数据矩阵和卷积权重矩阵集合的卷积运算指令；

将所述卷积数据矩阵的不同部分分配给多个处理元件中的每一个；

将对应于所述卷积数据矩阵的不同分配部分的多个数据元素传输到所述多个处理元件中的每一个；

向所述多个处理元件中的被分配了所述卷积数据矩阵的同一通道的每个处理元件广播所述卷积权重矩阵集合的同一子集；

从所述多个处理元件接收使用所述多个处理元件的硬件通道卷积处理器单元确定的通道卷积结果矩阵的通道卷积结果数据元素；以及

将所述通道卷积结果矩阵存储到存储器位置。

13.根据权利要求12所述的方法，其中，所述卷积数据矩阵和所述通道卷积结果矩阵是使用通道优先布局格式存储的。