[发明专利]计算乘积的方法及系统和计算点积及计算卷积的方法

说明书

本发明涉及一种使用查找表的计算加速器。所述加速器可通过从查找表检索两个浮点操作数的乘积的小数部分或通过从查找表检索两个浮点操作数的乘积来加速浮点乘法，或者所述加速器可从查找表检索浮点向量的点积。所述加速器可实施在三维存储总成中。所述加速器可使用近似法、乘法查找表的对称性及零跳过来改善性能。也提供计算乘积的方法及系统和计算点积及计算卷积的方法。

[相关申请的交叉参考]

本申请主张在2018年1月9日提出申请且名称为“软件定义的查找计算AI加速器系统架构(SOFTWARE DEFINED LOOKUP COMPUTING AI ACCELERATOR SYSTEM ARCHITECTURE)”的美国临时专利申请第62/615,334号的优先权及权利，所述美国临时专利申请的全部内容并入本文中供参考。

技术领域

根据本发明的实施例的一个或多个方面涉及计算，且更具体来说，涉及一种使用一个或多个查找表来加速计算的系统及方法。

背景技术

包括神经网络系统在内的人工智能系统所使用的各种运算可利用例如乘法及矩阵乘法等运算，且每一乘法所消耗的时间或矩阵乘法所消耗的时间可显著影响系统的总体性能。

因此，需要一种高效执行例如乘法或矩阵乘法等计算的系统及方法。

发明内容

本发明各实施例的方面涉及一种使用查找表的计算加速器。所述加速器可通过从查找表检索两个浮点操作数的乘积的小数部分或通过从查找表检索两个浮点操作数的乘积来加速浮点乘法，或者所述加速器可从查找表检索浮点向量的点积。所述加速器可实施在三维存储总成中。所述加速器可使用近似法、乘法查找表的对称性及零跳过来改善性能。

根据本发明的实施例，提供一种计算第一浮点数与第二浮点数的乘积的方法，所述方法包括：从以下因数形成地址：第一因数，所述第一因数是所述第一浮点数的因数，以及第二因数，所述第二因数是所述第二浮点数的因数；以及从查找表中的位置检索所述第一因数与所述第二因数的乘积，所述位置是由所述地址标识。

在一个实施例中，所述第一因数是所述第一浮点数的小数部分，且所述第二因数是所述第二浮点数的小数部分。

在一个实施例中，所述方法包括将所述第一浮点数与所述第二浮点数的所述乘积的指数作为以下的值进行计算：所述第一浮点数的指数与所述第二浮点数的指数的和减去与以下两者的2n位乘积中的前导0个数相等的左移数：通过对所述第一因数附加前导1而形成的第一数与通过对所述第二因数附加前导1而形成的第二数，其中：n是1加上所述第一因数的位长度。

在一个实施例中，所述方法包括使用数字逻辑电路确定所述左移数。

在一个实施例中，所述方法包括从查找表中的由所述地址标识的位置检索所述左移数。

在一个实施例中，所述形成所述地址包括：拼接所述第一因数的一部分与所述第二因数的一部分。

在一个实施例中，所述拼接所述第一因数的所述一部分与所述第二因数的所述一部分包括根据所述第一因数的所述一部分与所述第二因数的所述一部分各自的值按顺序拼接所述第一因数的所述一部分与所述第二因数的所述一部分。

在一个实施例中，所述第一因数的所述一部分是整个所述第一因数，且所述第二因数的所述一部分是整个所述第二因数。

在一个实施例中，所述第一因数的所述一部分：小于整个所述第一因数，且是包括所述第一因数的最高有效位的所述第一因数的位的连续子集；且所述第二因数的所述一部分：小于整个所述第二因数，且是包括所述第二因数的最高有效位的所述第二因数的位的连续子集。

在一个实施例中，所述第一因数是整个所述第一浮点数，且所述第二因数是整个所述第二浮点数。