[发明专利]文本特征提取模型的量化方法、装置、设备及存储介质

权利要求书

1.一种文本特征提取模型的量化方法，其特征在于，包括：

在文本特征提取模型训练过程中，根据目标量化参数确定与所述目标量化参数对应的量化区间；其中，所述量化区间为对所述目标量化参数的部分浮点值进行截断的区间，所述目标量化参数中的部分浮点值处于所述量化区间内，所述目标量化参数中的另一部分浮点值处于所述量化区间外；

根据所述量化区间构建所述目标量化参数的浮点值与定点值的映射关系；其中，所述目标量化参数中小于所述量化区间左端点的浮点值映射为量化后的最小定点值，所述目标量化参数中大于所述量化区间右端点的浮点值映射为量化后的最大定点值；

基于所述映射关系对所述目标量化参数进行量化操作。

2.根据权利要求1所述的方法，其特征在于，根据目标量化参数确定与所述目标量化参数对应的量化区间，包括：

确定所述目标量化参数的数值分布特征；

基于所述数值分布特征确定与所述目标量化参数对应的量化区间。

3.根据权利要求2所述的方法，其特征在于，在基于所述数值分布特征确定与所述目标量化参数对应的量化区间之前，还包括：

获取预设截断比例阈值；

基于所述数值分布特征确定与所述目标量化参数对应的量化区间，包括：

基于所述预设截断比例阈值、所述目标量化参数的数据量及所述目标量化参数的数值分布特征，确定与所述量化参数对应的量化区间。

4.根据权利要求3所述的方法，其特征在于，基于所述预设截断比例阈值、所述目标量化参数的数据量及所述目标量化参数的数值分布特征，确定与所述量化参数对应的量化区间，包括：

基于所述预设截断比例阈值及所述目标量化参数的数据量确定截断数据量2N；其中，N为所述预设截断比例阈值及所述目标量化参数的数据量的乘积；

基于所述目标量化参数中第N+1个最小数值和第N+1个最大值，确定与所述量化参数对应的量化区间；其中，所述量化区间为[第N+1个最小数值，第N+1个最大值]。

5.根据权利要求1所述的方法，其特征在于，根据目标量化参数确定与所述目标量化参数对应的量化区间，包括：

确定目标量化参数的类型；

获取与所述目标量化参数的类型对应的预设区间，并将所述预设区间确定为与所述目标量化参数对应的量化区间。

6.根据权利要求1所述的方法，其特征在于，在根据所述量化区间构建所述目标量化参数的浮点值与定点值的映射关系之前，还包括：

对所述量化区间进行调整，以使所述目标量化参数的浮点值0.0量化后的定点值为0。

7.根据权利要求1所述的方法，其特征在于，在根据目标量化参数确定与所述目标量化参数对应的量化区间之前，还包括：

根据所述文本特征提取模型的网络层的运算操作或网络参数的类型确定目标量化参数。

8.根据权利要求7所述的方法，其特征在于，根据所述文本特征提取模型的网络层的运算操作确定目标量化参数，包括：

当所述文本特征提取模型的网络层的运算操作为乘积运算时，将用于乘积运算的输入对象确定为目标量化参数；

当所述文本特征提取模型的网络层的运算操作为归一化操作时，将归一化操作的输出对象确定为目标量化参数。

9.根据权利要求7所述的方法，其特征在于，所述网络参数的类型包括权重矩阵和网络偏差；

根据所述文本特征提取模型的网络参数的类型确定目标量化参数，包括：

当所述网络参数为所述文本特征提取模型的权重矩阵时，将所述权重矩阵确定为目标量化参数。