[发明专利]数据协作处理方法、系统、装置、设备及存储介质

说明书

本申请涉及一种数据协作处理方法、系统、装置、设备及存储介质；其中，所述方法包括：获取待处理的数据以及获取待拆分的目标深度神经网络模型；获取所述终端设备的当前内存运行情况；根据所述当前内存运行情况，将所述深度神经网络模型划分为第一部分网络层和第二部分网络层，得到分区结果；其中，所述第一部分网络层在所述终端设备上运行；所述第二部分网络层在边缘计算设备上运行；将所述分区结果发送到所述边缘计算设备中，以使得所述边缘计算设备和所述终端设备根据所述分区结果协作完成对所述数据的处理。本申请用以解决现有技术中，终端设备硬件和计算能力的限制导致性能差的技术问题。

技术领域

本申请涉及机器学习技术领域，尤其涉及一种数据协作处理方法、系统、装置、设备及存储介质。

背景技术

近年来，深度神经网络(DNN)被广泛地应用在各种领域。以DNN为核心的应用程序要求终端设备具备强大的计算能力，但是，目前终端设备由于硬件和计算能力的限制，即便是采用较小的DNN模型，也会出现延时较大的情况，导致终端设备性能较差，无法实时处理图像、视频等数据。

发明内容

本申请提供了一种数据协作处理方法、系统、装置、设备及存储介质，用以解决现有技术中，终端设备硬件和计算能力的限制导致性能差的技术问题。

第一方面，本申请实施例提供了一种数据协作处理方法，适用于终端设备，所述方法包括：

获取待处理的数据以及获取待拆分的目标深度神经网络模型；

获取所述终端设备的当前内存运行情况；

根据所述当前内存运行情况，将所述深度神经网络模型划分为第一部分网络层和第二部分网络层，得到分区结果；其中，所述第一部分网络层在所述终端设备上运行；所述第二部分网络层在边缘计算设备上运行；

将所述分区结果发送到所述边缘计算设备中，以使得所述边缘计算设备和所述终端设备根据所述分区结果协作完成对所述数据的处理。

可选的，所述根据所述当前内存运行情况，将所述深度神经网络模型划分为第一部分网络层和第二部分网络层，包括：

获取所述目标深度神经网络模型的各网络层，在所述终端设备的所述当前内存运行情况下，各自的第一预测延迟时间，以及各网络层在所述边缘计算设备中各自的第二预测延迟时间；

根据各所述第一预测延迟时间和各所述第二预测延迟时间，以所述深度神经网络模型整体的预测延迟时间最短为目标，确定在所述终端设备上运行的所述深度神经网络模型的第一部分网络层，以及在所述边缘计算设备上运行的第二部分网络层。

可选的，所述获取所述目标深度神经网络模型的各网络层，在所述终端设备的所述当前内存运行情况下，各自的第一预测延迟时间，以及各网络层在所述边缘计算设备中各自的第二预测延迟时间，包括：

获取所述目标深度神经网络模型的各网络层各自对应的第一延迟时间预测模型和第二延迟时间预测模型；其中，所述第一延迟时间预测模型为所述网络层在所述终端设备中运行时的延迟时间预测模型；所述第二延迟时间预测模型为所述网络层在所述边缘计算设备中运行时的延迟时间预测模型；

利用所述第一延迟时间预测模型，预测在所述当前内存运行情况下，所述目标深度神经网络模型的各网络层在所述终端设备中各自的第一预测延迟时间；

利用所述第二延迟时间预测模型，预测所述目标深度神经网络模型的各网络层在所述边缘计算设备中各自的第二预测延迟时间。

可选的，所述获取所述目标深度神经网络模型的各网络层各自对应的第一延迟时间预测模型和第二延迟时间预测模型，包括：

获取所述目标深度神经网络模型的目标模型特征信息；