[发明专利]用于目标检测的卷积神经网络模型的压缩方法和系统

权利要求书

1.一种用于人脸检测的卷积神经网络模型的压缩方法，其特征在于，包括：

获取未经训练的用于人脸检测的卷积神经网络模型，并将卷积神经网络模型中的特征提取网络的网络结构进行简化，获取简化网络；

根据知识蒸馏方法对网络结构简化前后的特征提取网络进行联合训练，确定简化网络的参数；

将卷积神经网络模型中的特征提取网络替换为确定参数后的简化网络，并根据样本图像对压缩后的卷积神经网络模型进行训练，获取压缩后的用于人脸检测的卷积神经网络模型；

所述将卷积神经网络模型中的特征提取网络替换为确定参数后的简化网络，与所述根据样本图像对压缩后的卷积神经网络模型进行训练之间还包括：

对于简化网络中的每一卷积层，根据通道剪枝方法，去除该卷积层中冗余的通道；

所述根据通道剪枝方法，去除该卷积层中冗余的通道的具体步骤包括：

对于该卷积层中的每一通道，若判断获知该通道的卷积核的n范数小于预设的范数阈值，则将该通道确定为冗余的通道并去除；

或，对于该卷积层中的每一通道，若判断获知该通道的卷积核对应的激活值小于预设的激活值阈值，则将该通道确定为冗余的通道并去除；

或，若去除若干个通道后的该卷积层的输出误差最小，则将所述若干个通道确定为冗余的通道并去除。

2.根据权利要求1所述的用于人脸检测的卷积神经网络模型的压缩方法，其特征在于，所述特征提取网络包括至少一个卷积层；

相应地，将卷积神经网络模型中的特征提取网络的网络结构进行简化，获取简化网络具体包括：

减少至少一个卷积层中神经元的数量，并增加卷积层的数量；

将所述卷积层中的大尺寸的卷积核替换为级联的小尺寸卷积核；

以及若特征提取网络包括全连接层，将至少一个全连接层替换为卷积层中的至少一种。

3.根据权利要求1所述的用于人脸检测的卷积神经网络模型的压缩方法，其特征在于，根据知识蒸馏方法对网络结构简化前后的特征提取网络进行联合训练的具体步骤包括：

将网络结构简化前的特征提取网络作为教师网络，根据样本图像对教师网络进行训练，确定教师网络的参数；

将简化网络作为学生网络，根据样本图像和样本图像对应的参数已确定的教师网络的输出，对学生网络进行训练。

4.根据权利要求1所述的用于人脸检测的卷积神经网络模型的压缩方法，其特征在于，根据样本图像对压缩后的卷积神经网络模型进行训练，获取压缩后的用于人脸检测的卷积神经网络模型的具体步骤包括：

根据样本图像对压缩后的卷积神经网络模型进行训练，微调简化网络的参数浮点型并调整卷积神经网络模型中目标校正网络的参数，确定卷积神经网络模型的参数，获得压缩后的用于人脸检测的卷积神经网络模型；

其中，卷积神经网络模型的参数为浮点型。

5.根据权利要求4所述的用于人脸检测的卷积神经网络模型的压缩方法，其特征在于，获取卷积神经网络模型的参数与获得压缩后的用于人脸检测的卷积神经网络模型之间还包括：

将卷积神经网络模型的参数由浮点型量化为定点型。