[发明专利]异构智能处理量化装置、量化方法、电子设备及存储介质

权利要求书

1.一种异构智能处理量化装置，其特征在于，所述异构智能处理装置应用于异构智能处理器，所述异构智能处理器包括通用处理器和智能处理器，其中智能处理器包括控制电路和多个运算电路，所述智能处理器用于将原始神经网络量化位移位量化神经网络，所述异构智能处理量化装置包括：

权值量化模块，用于对原始神经网络中的权值进行量化，使移位量化神经网络中的权值均为幂次数据，并重训练所述移位量化神经网络，使所述移位量化神经网络的精度与所述原始神经网络的精度相同；

神经元量化模块，用于对所述原始神经网络中的神经元进行量化，使所述移位量化神经网络中神经元均被量化为定点数数据。

2.根据权利要求1所述的异构智能处理量化装置，其特征在于，所述权值量化模块包括：

第一获取子模块，用于获取所述原始神经网络中预设数量的权值；

计算子模块，用于计算所述原始神经网络中预设数量的每个权值与不同幂次位数据之间的欧式距离；

选择子模块，用于选择欧式距离最小的幂次位数据对应的幂次数据作为所述移位量化神经网络中的权值；

重训练模块，用于将权值限定在幂次数据中对所述移位量化神经网络进行重训练，直至所述移位量化神经网络的精度与所述原始神经网络的精度相同；

再次执行所述获取子模块、计算子模块、选择子模块和重训练模块，直至所述移位量化神经网络中的所有权值均为幂次数据。

3.根据权利要求1所述的异构智能处理量化装置，其特征在于，所述神经元量化模块包括：

第二获取子模块，用于获取所述神经元所在层的最大神经元；

系数确定子模块，用于基于所述最大神经元，确定所述神经元从所述原始神经网络的原始数表示转化为所述移位神经网络的定点数表示的缩放系数；

权值量化子模块，用于根据所述缩放系数，将所述神经元从原始数表示转化为定点数表示。

4.根据权利要求3所述的异构智能处理量化装置，其特征在于，所述缩放系数使得定点数表示的所述神经元可以覆盖所述神经元所在层中原始数表示的最大神经元。

5.根据权利要求1至4任意一项所述的异构智能处理量化装置，其特征在于，在所述移位量化神经网络中采用定点数移位运算代替所述原始神经网络中的乘法运算。

6.根据权利要求1至4任意一项所述的异构智能处理量化装置，其特征在于，所述幂次数据包括符号位和幂次位，所述符号位采用一位比特位表示权值的符号，所述幂次位采用m-1比特位表示幂次位数据，m为大于1的正整数。

7.根据权利要求1至4任意一项所述的异构智能处理量化装置，其特征在于，所述定点数据包括符号位和数值位，所述符号位采用一位比特位表示神经元的符号，所述数值位采用n-1位比特位表示数值位数据，n为大于1的正整数。

8.一种神经网络量化方法，其特征在于，包括：

对原始神经网络中的权值进行量化，使移位量化神经网络中的权值均为幂次数据，并重训练所述移位量化神经网络，使所述移位量化神经网络的精度与所述原始神经网络的精度相同；

对所述原始神经网络中的神经元进行量化，使所述移位量化神经网络中神经元均被量化为定点数数据。

9.一种电子设备，包括：存储器，处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器包括权利要求1至7中的任一项所述的异构智能处理量化装置。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时，实现权利要求8所述的神经网络量化方法。