[发明专利]一种用于点云目标检测模型的压缩方法

权利要求书

1.一种用于点云目标检测模型的压缩方法，其特征在于，所述模型的压缩方法包括：

S1、以原始的点云目标检测模型为教师模型，其中，教师模型包括依次连接的骨干网络、分类网络、回归网络，对教师模型的骨干网络进行裁剪或替换获得规模小于教师模型的初始学生模型；

S2、将教师模型训练至收敛，用收敛后的教师模型对点云数据进行处理，其中，教师模型的骨干网络输出特征矩阵、教师模型的分类网络的输出软极大值、教师模型的回归网络生成前景点对应的检测框；

S3、以教师模型骨干网络输出的特征矩阵为标签，对初始学生模型的骨干网络进行训练；

S4、以教师模型的分类网络输出的软极大值为标签，对完成骨干网络训练的学生模型的分类网络进行训练；其中，训练所使用的损失函数为：

L_cls＝μL_hard+(1-μ)L_soft(P_s-P_t)

L_soft＝-∑P_tlog P_s

其中，L_cts表示学生模型分类网络的损失函数，L_hard为交叉熵损失，表示直接使用真实的分类标签对学生模型的分类网络进行训练的损失，L_soft表示根据教师模型的分类网络输出的软极大值计算的损失，P_s表示教师模型的分类网络输出的软极大值，P_t表示学生模型的分类网络输出的软极大值，μ为分类损失调节因子；

S5、用教师模型的回归网络中前景点生成的检测框对完成分类网络训练的学生模型的回归网络进行训练；其中，训练所使用的损失函数如下：

其中，L_reg表示学生模型回归网络的损失函数，L_sL1(R_s，y_gt)为L1损失，表示使用真实的检测框对学生模型训练的损失，R_s表示学生模型回归网络的输出，y_gt表示真实的检测框标签；L_kd(R_s，R_t)为L2损失，N表示从教师模型回归网络输出的检测框中选取的检测框总数，u⁽ⁱ⁾为教师网络输出的第i个前景点生成的检测框的值，v⁽ⁱ⁾为学生模型输出的对应前景点生成的检测框的值，为回归损失调节因子；

S6、将完成骨干网络训练、分类网络训练、回归网络训练的学生模型训练至收敛得到压缩模型。

2.根据权利要求1所述的用于点云目标检测模型的压缩方法，其特征在于，所述步骤S2中将教师模型训练至收敛包括：将教师模型进行多次训练，直到在某次训练后与该次训练前相比，其分类准确率的变化范围小于或等于0.01％，判定该教师模型已训练至收敛。

3.根据权利要求1所述的用于点云目标检测模型的压缩方法，其特征在于，所述步骤S3中，使用如下损失函数对学生模型的骨干网络进行训练：

L_HT＝||u_h(x)-r(v_g(x))||²

其中，x表示点云数据，u_h(x)表示教师模型对点云数据进行处理后骨干网络的输出，v_g(x)表示学生模型的骨干网络的输出，r表示归一化函数，L_HT表示教师模型骨干网络输出与学生模型骨干网络输出之间的L2损失。

4.根据权利要求3所述的用于点云目标检测模型的压缩方法，其特征在于，所述分类损失调节因子取值范围为[0，1]。

5.据权利要求4所述的用于点云目标检测模型的压缩方法，其特征在于，所述回归损失调节因子取值范围为[0，1]。

6.一种用于点云目标检测的边缘设备，包括存储器和处理器，其特征在于，

所述存储器上部署有基于权利要求1至5中任一所述方法获得的学生模型。