[发明专利]一种用于对待量化数据进行定点化处理的方法及计算装置

权利要求书

1.一种用于对待量化数据进行定点化处理的方法，包括：

接收待量化数据，所述待量化数据为浮点型格式；

根据所述待量化数据的分布确定所述待量化数据要采用的最优量化步长；

根据所述最优量化步长确定定点型格式，所述定点型格式包括符号位位数、整数位位数和小数位位数；以及

利用所述定点型格式对所述待量化数据进行定点化处理，以获得具有所述定点型格式的定点化数据，

其中，所述定点化处理方式包括非均匀量化法和均匀量化法之一，

当所述定点化处理的类型为非均匀量化法时，所述整数位位数为m，所述小数位位数为n，其中m和n分别表示为：

m＝P-1-n

n＝-log₂(Δmin)

其中，P为所述待量化数据的位数，Δmin为所述最优量化步长，

当所述定点化处理的类型为均匀量化法时，所述整数位位数为m，所述小数位位数为n，其中m和n分别表示为：

m＝log₂(max|Q₀|，|Q_M|)

n＝-log₂(Δ)

其中，Q₀为初始量化位置，Q_M为终点量化位置，Δ为所述最优量化步长。

2.如权利要求1所述的用于对待量化数据进行定点化处理的方法，其中，确定所述最优量化步长的步骤还包括：

确定所述定点化处理的类型为非均匀量化法还是均匀量化法；

根据所述定点化处理的类型和所述待量化数据的分布，估计一量化参数；

通过迭代地找出所述量化参数与所述待量化数据的误差最小值，确定所述待量化数据要采用的最优量化步长。

3.如权利要求2所述的用于对待量化数据进行定点化处理的方法，其中，当所述定点化处理的类型为非均匀量化法时，量化数据为x，待量化数据的分布为p(x)，量化参数为并且三者的关系表示为：

其中b_q为决策边界，且b_q与和的关系表示为：

其中确定所述最优量化步长的步骤包括：利用量化参数迭代找出量化参数与待量化数据的误差最小值θ，其中误差最小值θ表示为：

当q为量化等级M且误差最小值θ小于临界值时确定所述最优量化步长。

4.如权利要求3所述的用于对待量化数据进行定点化处理的方法，其中，当所述定点化处理的类型为均匀量化法时，决策边界b_q与量化参数的关系表示如下：

其中确定所述最优量化步长的步骤包括：利用量化参数迭代找出误差最小值θ以确定所述最优量化步长。

5.如权利要求1-4中任一项所述的用于对待量化数据进行定点化处理的方法，所述方法由计算装置实施以提升所述计算装置的计算速度并降低内存开销，并且其中确定所述最优量化步长、确定所述定点型格式和进行定点化处理中的一者或多者在设置于所述计算装置之外的计算单元中离线地进行。