[发明专利]结构化知识蒸馏方法、装置、设备及计算机可读存储介质

说明书

本发明公开一种结构化知识蒸馏方法、装置、设备及计算机可读存储介质，其中，所述结构化知识蒸馏方法包括步骤：输入样本训练集至教师网络和学生网络，得到教师区域表征图谱和教师输出分数，以及学生区域表征图谱和学生输出分数；基于教师区域表征图谱和学生区域表征图谱，输出区域相关性蒸馏损失函数；基于教师输出分数和学生输出分数，输出类别相关性蒸馏损失函数；将区域相关性蒸馏损失函数、相关性蒸馏损失函数和交叉熵损失函数加权相加得到总损失函数；利用总损失函数指导学生网络的参数更新，让学生网络的性能逼近、甚至高于教师网络，克服了现有的学生网络的网络结构复杂、参数量大、运算量大和速度慢等的缺点。

技术领域

本发明涉及视频数据领域，尤其涉及一种结构化知识蒸馏方法、装置、设备及计算机可读存储介质。

背景技术

近年来，随着人工智能和大数据的快速发展，以深度学习为代表的技术在不同领域取得了广泛应用。但是深度神经网络存在网络结构复杂、参数量大、运算量大和速度慢等的缺点，使得现有的深度学习模型难以在移动端和嵌入式设备等进行部署。

因此，现有技术还有待改善。

发明内容

本发明的主要目的在于提出一种结构化知识蒸馏方法、装置、设备及计算机可读存储介质，旨在解决学生网络的网络结构复杂、参数量大、运算量大和速度慢的问题，所述结构化知识蒸馏方法包括以下步骤：

输入样本训练集至教师网络和学生网络，得到教师区域表征图谱和教师输出分数，以及学生区域表征图谱和学生输出分数；

基于所述教师区域表征图谱和所述学生区域表征图谱，输出区域相关性蒸馏损失函数；

基于所述教师输出分数和所述学生输出分数，输出类别相关性蒸馏损失函数；

将所述区域相关性蒸馏损失函数、所述相关性蒸馏损失函数和交叉熵损失函数加权相加得到总损失函数；

利用所述总损失函数指导所述学生网络的参数更新。

此外，为实现上述目的，本发明还提供一种结构化知识蒸馏装置，所述结构化知识蒸馏装置包括：

输入模块，用于输入样本训练集至教师网络和学生网络，得到教师区域表征图谱和教师输出分数，以及学生区域表征图谱和学生输出分数；

第一输出模块，用于基于所述教师区域表征图谱和所述学生区域表征图谱，输出区域相关性蒸馏损失函数；

第二输出模块，用于基于所述教师输出分数和所述学生输出分数，输出类别相关性蒸馏损失函数；

加权相加模块，用于将所述区域相关性蒸馏损失函数、所述相关性蒸馏损失函数和交叉熵损失函数加权相加得到总损失函数；

指导模块，用于利用所述总损失函数指导所述学生网络的参数更新。

此外，为实现上述目的，本发明还提供一种结构化知识蒸馏设备，所述结构化知识蒸馏设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的结构化知识蒸馏程序，所述结构化知识蒸馏程序被所述处理器执行时实现如上所述的结构化知识蒸馏方法的步骤。

此外，为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有所述结构化知识蒸馏程序，所述结构化知识蒸馏程序被处理器执行时实现如上所述的结构化知识蒸馏方法的步骤。