[发明专利]矩阵压缩加速器系统和方法

说明书

在描述的示例中，矩阵压缩/解压缩加速器(MCA)(0111)协调外部数据存储器(EDM)(0130)和本地数据存储器(LDM)(0114)之间的无损数据压缩(LDC)和无损数据解压缩(LDD)传输。MCA(0111)使用LDM(0114)内的2D未压缩数据块(2DU)的2D到1D变换以生成ID未压缩数据块(1DU)来实现LDC。然后压缩1DU以在LDM(0114)中生成ID压缩超级块(CSB)。然后可以利用减少数量的EDM总线周期将该CSB写入EDM(0130)。MCA(0111)使用从EDM(0130)检索的CSB数据的解压缩来实现LDD，以在LDM(0114)中生成ID解压缩数据块(1DD)。然后将1D到2D变换应用于1DD以在LDM(0114)中生成2D解压缩数据块(2DD)。然后可以由矩阵计算引擎(MCE)(0110)使用各种函数运算符对该2DD进行操作。

技术领域

本申请总体涉及在具有不同访问时间的数据存储器之间加速无损压缩数据传输，更具体地涉及在不同访问时序的存储器之间移动大矩阵。

背景技术

矩阵压缩加速器(MCA)可以应用于可以在以下之间传输非常大的卷积神经网络(CNN)特征图(feature map)的情况：在数字中央处理单元(CPU)或其他应用控制逻辑(ACL)的控制下的外部数据存储器(EDM)；以及在集成矩阵计算引擎(MCE)的控制内的本地数据存储器(LDM)，其中矩阵计算运算符(MCO)可以应用于LDM内包含的平铺(tiled)矩阵数据(TMD)。

发明内容

在描述的示例中，系统和方法在外部数据存储器(EDM)和本地数据存储器(LDM)之间提供矩阵压缩加速器(MCA)数据传输接口。系统和方法实现用于LDM和EDM之间的数据传输的无损数据压缩(LDC)以及用于EDM和LDM之间的数据传输的无损数据解压缩(LDD)。LDC功能使用LDM内的多阶段过程进行操作，该多阶段过程包括2D到1D数据变换，然后是1D数据压缩。LDD功能使用LDM内的多阶段过程进行操作，该多阶段过程包括1D数据解压缩，然后是1D到2D数据变换。在一些实施例中，LDC和LDD功能可以使用压缩/解压缩直接存储器存取(DMA)控制器(CDC)来实现，该压缩/解压缩直接存储器存取控制器在EDM和LDM之间传输数据，同时自动执行压缩/解压缩功能。LDC/LDD过程增加LDM内的操作时序并减少EDM内的操作时序，以实现在LDM数据上操作的矩阵计算引擎(MCE)与LDM和EDM之间的数据传输之间增加计算/传输时序交叠(overlap)的目标。

附图说明

图1示出了实施例的系统框图。

图2示出了描绘在LDM、MCA和EDM之间传输的数据的压缩/解压缩数据流的实施例的数据流程图。

图3示出了描绘在LDM和EDM之间传输的数据的压缩数据流的实施例的数据流程图。

图4示出了描绘在EDM和LDM之间传输的数据的解压缩数据流的实施例的数据流程图。

图5示出了描绘并入前台/后台计算/数据移动操作的系统实施例的操作的数据流程图。

图6示出了CNN矩阵乘积计算的实施例，其中H滤波器系数乘数(FCM)、X输入特征图滤波被乘数(IFM)和Y输出特征图(OFM)包含在本地数据存储器(LDM)内。

图7示出了CNN矩阵乘积计算的实施例，其中H滤波器系数乘数(FCM)包含在本地数据存储器(LDM)中，并且X输入特征图滤波被乘数(IFM)和Y输出特征图(OFM)被处理为本地数据存储器(LDM)内的瓦片(tile)。

图8示出了CNN矩阵乘积计算的实施例，其中H滤波器系数乘数(FCM)和Y输出特征图(OFM)被处理为包含在本地数据存储器(LDM)中的组，并且X输入特征图滤波被乘数(IFM)完全包含在本地数据存储器(LDM)内。

图9示出了描绘没有填充(pad)插入的小特征图MCA系统实施例的实施例的操作的数据流程图。