[发明专利]一种基于深度神经网络的边缘计算任务的分配方法及装置

说明书

本发明提供了一种基于深度神经网络的边缘计算任务的分配方法，其步骤包括：获得参数量数据，分别计算神经网络中，待计算网络层的参数量；获得计算量数据，根据待计算网络层的参数量获得计算量数据；计算任务分配，根据计算量数据获得终端设备计算任务；根据终端设备计算任务获得边缘服务器的计算任务；判断剩余计算任务是否需要在云服务器执行。此外，本发明还提供了一种基于深度神经网络的边缘计算任务的分配装置、存储介质，可以充分考虑各层设备的实时剩余计算资源情况，并在此基础上计算各层的参数量与计算量，得到对应的部署方案，实现各层设备计算能力的充分利用。

技术领域：

本发明涉及计算机技术领域，具体的，涉及一种基于深度神经网络的边缘计算任务的分配方法及装置。

背景技术：

近些年人工智能取得了很大的进展，它的应用随着相关技术的成熟逐渐渗透进入了生活。神经网络作为人工智能中常用的手段，它虽然有很好的性能(准确率等)，但它的训练和推导都需要很大的计算量，在边缘计算框架下，就单个终端设备来说，很难快速的完成训练或者得到推理(一次执行)的结果。尤其是卷积神经网络(CNN)，由于其参数众多，推理计算资源需求大，一般的终端设备难以快速获取推理结果。

分布式技术对机器学习也有很大的帮助，将不同位置的设备通过网络结合在一起，整合算力，从而得到更快的任务响应速度。这样的分布式思想衍生出了云计算、边缘计算、物联网等新的领域。云计算的出现使得普通用户可以得到廉价而巨大的计算资源，但传统的云计算需要完整的任务输入，而且数据传输距离很长，这会导致通信带宽消耗大、响应时延不可估计以及隐私难以保护等缺点。在这样的环境下，渐渐发展出了雾计算、边缘计算等新的非本地计算模式。边缘计算中，终端将数据发送给离用户较近的边缘服务器，边缘服务器将接收的数据进行处理，并返回结果给用户。这样的计算方式虽然没有和云一样强大的计算能力，但是保证了低延迟、高可靠性和用户隐私不被侵犯，另外还有非常高的鲁棒性和可扩展性。一般来说，边缘计算的延迟大约在10毫秒之内，而云计算的延迟大约在100毫秒。面对神经网络的推理任务，虽然边缘计算延迟够低，但是其总体计算性能不够高，云服务器计算能力够强，但是不可控的延迟和隐私问题成为最大的隐患。

因此，本领域亟需一种任务分配方法及装置，以更好的结合终端、边缘、云三部分，从而取得更好的效果和体验。

发明内容：

有鉴于此，本发明的目的在于提供一种基于深度神经网络的边缘计算任务的分配方法及装置，以解决背景技术中所述的至少一个技术问题。

具体的，本发明的第一方面，提供了一种基于深度神经网络的边缘计算任务的分配方法，其步骤包括：

获得参数量数据，分别计算神经网络中，待计算网络层的参数量；

获得计算量数据，根据待计算网络层的参数量获得计算量数据；

计算任务分配，根据计算量数据获得终端设备计算任务；根据终端设备计算任务获得边缘服务器的计算任务；判断剩余计算任务是否需要在云服务器执行，如需要，则将剩余计算任务分配至云服务器，如不需要，则将剩余计算任务分配至边缘服务器。

采用上述技术方案，可以充分考虑各层设备的实时剩余计算资源情况，并在此基础上计算各层的参数量与计算量，得到对应的部署方案，通过计算任务的优化分配，实现各层设备计算能力的充分利用，提高处理效率。

优选地，所述基于深度神经网络的边缘计算任务的分配方法，还包括步骤：

获得内存占用数据，根据待计算网络层的参数量获得内存占用数据。

优选地，所述待计算网络层的参数量包括卷积层参数量、全连接层参数量；所述计算量数据包括卷积层计算量、全连接层计算量。

优选地，所述基于深度神经网络的边缘计算任务的分配方法，还包括步骤：

识别卷积层、全连接层，对神经网络中的各层进行分析，获得卷积层、全连接层。