[发明专利]运算装置、运算方法和运算芯片

权利要求书

1.一种运算装置，其特征在于，所述运算装置包括一个量化单元、一个缓存单元、一个控制单元、一个卷积核单元以及一个乘加单元；其中，

所述量化单元，用于接收一第一特征图参数并对所述第一特征图参数进行非对称均匀量化用以获得一第二特征图参数后储存于所述缓存单元；以及，还用于接收一第一权重系数并对所述第一权重系数进行对称均匀量化用以获得一第二权重系数后储存于所述缓存单元；

所述卷积核单元，用于根据所述控制单元的指令对所述第二特征图参数和所述第二权重系数执行一卷积运算，获得一初始运算结果；

所述乘加单元，用于对所述初始运算结果、一实际量化因子以及一实际偏置值执行一乘加运算，获得一最终运算结果。

2.根据权利要求1所述的运算装置，其特征在于，所述运算装置还包括一个离线计算单元，所述离线计算单元与所述乘加单元相连，其中，所述离线计算单元用于：

离线计算一初始化偏置值、量化参数零点产生的一些计算项以及所述实际量化因子；

合并所述初始化偏置值和量化参数零点产生的一些计算项，生成所述实际偏置值。

3.根据权利要求2所述的运算装置，其特征在于，所述离线计算单元采用单精度浮点数进行离线计算。

4.根据权利要求1-3任一项所述的运算装置，其特征在于，所述运算装置还包括一个裁剪单元，所述裁剪单元与所述卷积核单元相连，所述对所述初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果，还包括：

所述裁剪单元，用于接收具有第一位宽的初始运算结果，并将所述具有第一位宽的初始运算结果裁剪生成具有第二位宽的初始运算结果；

所述乘加单元，用于对所述具有第二位宽的初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果；

其中，所述第一位宽大于所述第二位宽。

5.根据权利要求4所述的运算装置，其特征在于，所述对所述具有第二位宽的初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果，还包括：

所述裁剪单元，还用于接收具有第一位宽的实际偏置值，并将所述具有第一位宽的实际偏置值裁剪生成具有第二位宽的实际偏置值；

所述乘加单元，用于对所述具有第二位宽的初始运算结果、实际量化因子以及所述具有第二位宽的实际偏置值执行乘加运算，获得最终运算结果。

6.一种运算方法，其特征在于，所述运算方法包括：

接收一第一特征图参数并对所述第一特征图参数进行非对称均匀量化用以获得一第二特征图参数；

接收一第一权重系数并对所述第一权重系数进行对称均匀量化用以获得一第二权重系数；

根据指令对所述第二特征图参数和所述第二权重系数执行一卷积运算，获得一初始运算结果；

对所述初始运算结果、一实际量化因子以及一实际偏置值执行一乘加运算，获得一最终运算结果。

7.根据权利要求6所述的运算方法，其特征在于，所述运算方法还包括：

离线计算一初始化偏置值、量化参数零点产生的一些计算项以及所述实际量化因子；

合并所述初始化偏置值和量化参数零点产生的一些计算项，生成所述实际偏置值。

8.根据权利要求7所述的运算方法，其特征在于，采用单精度浮点数进行离线计算。

9.根据权利要求6-8任一项所述的运算方法，其特征在于，所述对所述初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果，还包括：

接收具有第一位宽的初始运算结果，并将所述具有第一位宽的初始运算结果裁剪生成具有第二位宽的初始运算结果；

对所述具有第二位宽的初始运算结果、实际量化因子以及实际偏置值执行乘加运算，获得最终运算结果；

其中，所述第一位宽大于所述第二位宽。