[发明专利]一种基于边缘计算的神经网络模型训练方法

说明书

本发明提供了一种基于边缘计算的神经网络模型训练方法。该方法包括：边缘端利用基于非学习层的深度学习模型对收集到的视频监控数据在视频分析模型上进行训练，得到模型参数，并将模型参数下发到终端设备上；终端设备基于边缘端分发的模型参数，利用非学习层的深度学习模型终端构建出视频推理模型，利用视频推理模型对采集的视频监控数据进行实时分析，将视频监控数据和分析结果上传给边缘端。本发明提出在基于边缘计算和深度学习的视频分析任务中，使用非学习层的方式对模型进行改进，优化边缘端和终端设备间的数据传输，减少通信时延，同时保持高精度的实时视频分析能力。

技术领域

本发明涉及神经网络训练技术领域，尤其涉及一种基于边缘计算的神经网络模型训练方法。

背景技术

随着万物互联和5G时代的到来，越来越多的终端设备被部署到关键场景中，并呈现出智能化的发展趋势，通过神经网络模型为用户提供便捷高效的服务成为当前的主流模式，然而在实际场景中，终端设备上有限的资源会使神经网络模型计算效率降低，产生较大的时延，从而导致这种计算模式失去适用性。在近年的边缘计算中，对计算任务进行拆解和分配，通过多终端与边缘端、云端设备协作训练的模式有效降低了延迟。

目前，现有技术中的基于云/边缘-端协作训练深度神经网络方法包括：考虑到其使用场景需要对视觉信息进行分析，普遍使用卷积网络对模型进行构建，并在此基础上对模型进行优化。可分离卷积是一种较为有效的解决方案，通过对卷积核进行矩阵分解，将二维卷积核拆分为两个一维卷积核，使得模型训练的参数量和在云/边缘-端设备间传递的数据量大幅降低，在一定程度上缓解了模型训练和参数传递带来的延迟。

上述现有技术中的基于云/边缘-端协作训练深度神经网络方法的缺点为：该方法对神经网络模型的优化，在一定程度上降低了参数量，但是这些方法仍然存在两方面的局限性。首先是模型减少的参数量在实时性上没有显著提升。理论上可分离卷积使得卷积核参数降低一个数量级，但是在卷积核本身较小时，如3×3的卷积核分解为两个3×1的卷积核，总体上参数量并没有显著下降。此外参数量仍受到模型深度的影响，训练任务和网络传输负载并没有得到很好的优化。

其次是结构优化并没有在训练上提供优势。由于当前GPU(graphics processingunit，图形处理器)、TPU(tensor processing unit，张量处理器)设备在并行训练上侧重于对传统卷积核的加速优化，可分离卷积带来的参数量下降，并不能真实反应在训练和推断过程上的效率提升。

发明内容

本发明的实施例提供了一种基于边缘计算的神经网络模型训练方法，以实现优化边缘端和终端设备间的数据传输。

为了实现上述目的，本发明采取了如下技术方案。

一种基于边缘计算的神经网络模型训练方法，包括：

边缘端利用基于非学习层的深度学习模型对收集到的视频监控数据在视频分析模型上进行训练，得到模型参数，并将模型参数下发到终端设备上；

终端设备基于边缘端分发的模型参数，利用非学习层的深度学习模型终端构建出视频推理模型，利用视频推理模型对采集的视频监控数据进行实时分析，将视频监控数据和分析结果上传给边缘端。

优选地，所述的方法还包括：云端对各个边缘端的视频分析模型进行集成，将视频分析模型参数下发到各边缘端上。

优选地，所述的基于非学习层的深度学习模型需要学习的参数量受到特征融合部分的全连接层影响，在特征提取阶段将卷积中需要通过训练学习到的卷积核替换为固定或随机生成的二值卷积核，在特征融合阶段使用可学习的全连接网络结构，在训练过程中对神经网络模型所提取的视频监控数据特征进行加权计算。