[发明专利]内积处理部件、任意精度计算设备、方法及可读存储介质

说明书

本发明涉及一种任意精度计算设备、方法及计算机可读存储介质，核内存代理器自片外内存读取多个操作数；核控制器将多个操作数拆分成多个向量；处理阵列包括多个处理部件，处理部件根据第一向量及第二向量的长度，内积第一向量与第二向量，以获得内积结果；核控制器将内积结果整合成多个操作数的计算结果，核内存代理器将计算结果存储至片外内存。

技术领域

本发明一般地涉及计算机领域。更具体地，本发明涉及内积处理部件、任意精度计算设备、方法及可读存储介质。

背景技术

任意精确计算是利用任意位数来表示操作数，在许多技术领域至关重要，例如超新星模拟、气候模拟、原子模拟、人工智能、行星轨道计算等。这些领域需要处理数百、甚至数千或数百万位数的数据，这样大范围的数据位数处理远远超出了传统处理器的硬件能力。

即使现有技术使用高位宽的处理器，也无法处理任意精确计算操作所需的可变长度，原因在于：最优比特宽在不同算法之间变化很大，且比特宽的细微差异会导致显著的成本差异。再者，现有技术还提出了许多提高体系结构级计算效率的技术，主要是纯效计算(effectual-only computation)和近似计算，前者只执行基本计算，其中无效的计算像是稀疏化和重复数据会被跳过或消除，后者使用较不准确的数据像是低位宽数据或量化后数据，来代替原始的准确数据的计算。然而，对于纯效计算来说，要找到重复数据十分困难且昂贵，对于近似计算来说，它直观地与任意精确计算的目的相矛盾，任意精确计算需要精确的计算来获得较高的精度。最后，这些现有技术不可避免地都会导致大量低效的内存访问。

因此，一种高效的任意精确计算方案是迫切需要的。

发明内容

为了至少部分地解决背景技术中提到的技术问题，本发明的方案提供了一种内积处理部件、任意精度计算设备、方法及可读存储介质。

在一个方面中，本发明揭露一种用以内积第一向量与第二向量的处理部件，包括：转换单元、多个内积单元及合成单元。转换单元用以根据第一向量的长度及位宽生成多个模式向量。每个内积单元基于第二向量在长度方向上的数据向量为索引，累加多个模式向量中的特定模式向量，以形成单位累加数列。合成单元用以加总多个单位累加数列，以获得内积结果。

在另一个方面，本发明揭露一种任意精度计算加速器，连接至片外内存，任意精度计算加速器包括：核内存代理器、核控制器及处理阵列。核内存代理器用以自片外内存读取多个操作数。核控制器用以将多个操作数拆分成多个向量，多个向量包括第一向量及第二向量。处理阵列包括多个处理部件，处理部件用以根据第一向量及第二向量的长度，内积第一向量与第二向量，以获得内积结果。其中，核控制器将内积结果整合成多个操作数的计算结果，核内存代理器将计算结果存储至片外内存。

在另一个方面，本发明揭露一种集成电路装置，包括前述的任意精度计算加速器、处理装置及片外内存。处理装置用以控制任意精度计算加速器，片外内存包括LLC。其中，任意精度计算加速器与处理装置通过LLC联系。

在另一个方面，本发明揭露一种板卡，包括前述的集成电路装置。

在另一个方面，本发明揭露一种内积第一向量与第二向量的方法，包括：根据第一向量的长度及位宽生成多个模式向量；基于第二向量在长度方向上的数据向量为索引，累加多个模式向量中的特定模式向量，以形成多个单位累加数列；以及加总多个单位累加数列，以获得内积结果。

在另一个方面，本发明揭露一种任意精度计算方法，包括：自片外内存读取多个操作数；将多个操作数拆分成多个向量，多个向量包括第一向量及第二向量；根据第一向量及第二向量的长度，内积第一向量与第二向量，以获得内积结果；将内积结果整合成多个操作数的计算结果；以及将计算结果存储至片外内存。

在另一个方面，本发明揭露一种计算机可读存储介质，其上存储有任意精度计算的计算机程序代码，当所述计算机程序代码由处理装置运行时，执行前述的方法。