[发明专利]一种量化模型的生成方法及终端

权利要求书

1.一种量化模型的生成方法，其特征在于，包括步骤：

利用预设数据集对目标检测模型进行训练，得到收敛后的浮点型的目标检测模型；

对所述目标检测模型进行量化并基于梯度估计进行训练，得到收敛后的第一量化模型；

将所述目标检测模型与所述第一量化模型基于两者的联合损失函数进行联合训练，得到收敛后的与所述第一量化模型对应的第二量化模型；

所述量化方法如下式所示：

r＝Round(S(q-Z))；

式中，q表示所述收敛后的浮点型的目标检测模型的float32权重，Z表示所述收敛后的浮点型的目标检测模型的float32数值在量化时的偏移量，S表示所述收敛后的浮点型的目标检测模型的float32数值的缩放因子，即尺度，Round()表示四舍五入取整的数学函数，r表示量化后的一个整数值，n表示量化的bit数，x为当前待量化神经网络层的所有权重值；

所述梯度估计使用直通估计器，如下式所示：

式中，L为所述第一量化模型的损失函数，q为所述收敛后的浮点型的目标检测模型的权重，r为所述第一量化模型的权重；

所述将所述目标检测模型与所述第一量化模型基于两者的联合损失函数进行联合训练，得到收敛后的与所述第一量化模型对应的第二量化模型之前包括：

根据所述目标检测模型和第一量化模型各自的分类损失函数、联合分类损失函数、各自的回归损失函数和联合回归损失函数确定两者的联合损失函数。

2.根据权利要求1所述的一种量化模型的生成方法，其特征在于，所述联合分类损失函数为：

式中，P_fp32表示所述目标检测模型对目标的分类概率，P_int8表示第一量化模型对目标的分类概率，N表示预测的目标个数；

所述联合回归损失函数为：

式中，x_fp32与x_int8分别表示所述目标检测模型与所述第一量化模型输出的目标中心横坐标，y_fp32和y_int8分别表示所述目标检测模型与所述第一量化模型输出的目标中心纵坐标，w_fp32和w_int8分别表示所述目标检测模型与所述第一量化模型输出的目标宽，h_fp32和h_int8分别表示所述目标检测模型与所述第一量化模型输出的目标高。

3.根据权利要求2所述的一种量化模型的生成方法，其特征在于，所述联合损失函数为：

L_total＝αL_KL+βL_{hard_regression}+L_ori

式中，L_ori表示所述目标检测模型与所述第一量化模型各自的分类损失与回归损失之和，α表示调节联合分类损失权重的参数，β表示调节联合回归损失权重的参数。

4.根据权利要求1至3中任一项所述的一种量化模型的生成方法，其特征在于，所述将所述目标检测模型与所述第一量化模型基于两者的联合损失函数进行联合训练，得到收敛后的与所述第一量化模型对应的第二量化模型包括：

基于两者的联合损失函数进行联合训练后，判断所述第一量化模型的客观评测数据是否达到预设值，若是，则得到收敛后的与所述第一量化模型对应的第二量化模型；若否，则根据预设数据集基于所述联合损失函数继续对所述目标检测模型与所述第一量化模型进行联合训练直至所述第一量化模型的客观评测数据达到预设值。