[发明专利]边缘计算设备分布式算力调度方法与系统

说明书

本发明提供一种边缘计算设备分布式算力调度方法与系统，每一个边缘计算设备构成一个计算节点，分布式算力调度方法包括：配置中心算力调度节点，并在中心调度节点配置动态节点状态表，计算节点动态更新节点信息；超负荷节点查询动态节点状态表，获取内网或者外网的闲置节点，并通过任务切片限流器将超负荷节点的任务切片发送至目标节点，并接收返回的任务结果和节点可利用状态；任务切片限流器根据反馈的节点可利用状态决定下一步的继续发送任务切片、加大任务切片发送流量或者停止发送任务切片，直到发送节点的任务波峰状态消除。通过本发明可有效解决系统内局部“波峰波谷”现象，并极大的提升设备利用率与综合部署成本。

技术领域

本发明涉及边缘计算技术领域，具体而言涉及一种边缘计算设备分布式算力调度方法与系统。

背景技术

端、边、云三级融合通信的系统架构正在逐步得到广泛的应用。随着AI智能分析技术的轻量化、以及小模型精度的不断提升，系统化内传统的中心智能分析能力，也逐步向边、端转移。这样带来的优势非常明显，既可以实现小系统闭环自治，又能大幅节省带宽成本，提升本地分析的即时性，为实时检测、迅速告警及人工干预提供了技术实现的基础。

边缘计算设备（边级）如智能分析盒子等设备，相对于终端设备（端级）而言，具有CPU、内存等硬件配置规格更高，并内置AI芯片，具有非常可观的算力资源。此类边缘计算设备，在大部分时间段均处理CPU资源任务，而AI算力资源处于闲置的状态，仅仅在检测到可分析对象时，才具有一定的工作负荷。

但在实际系统应用中也发现，个别节点会在短时间内出现并累积大量分析任务，造成算力严重不足，算法分析效果和实时性均急剧下降的情况。例如，在学校部署边缘计算设备时，在早晨到校、傍晚离校时，会出现1分钟上百人的通过量，人脸识别比对的计算负荷急剧提高，造成智能分析任务的“波峰波谷”现象，给实际系统设计及部署、平衡需求及成本带来了极大的挑战。

发明内容

针对现有技术存在的问题，本发明目的在于提供一种边缘计算设备分布式算力调度方法，让具有AI算力资源的边缘计算设备均将算力资源及消耗情况注册并同步到中心算力管理节点。通过中心算力管理节点的智能调度，使得边缘设备与边缘设备之间得以实现一种高效的算力共享机制，在部分边缘设备高负荷分析时，能将分析任务传送至闲置的边缘设备节点协同分析计算，有效的应对上述系统内局部“波峰波谷”现象，并极大的提升设备利用率与综合部署成本。

根据本发明目的的第一方面提出一种边缘计算设备分布式算力调度方法，每一个边缘计算设备构成一个计算节点，所述分布式算力调度方法包括：

配置中心算力调度节点，并在中心调度节点配置动态节点状态表，所述动态节点状态表被配置用于存储和动态更新至少一个注册到中心算力调度节点的计算节点的节点信息，所述节点信息包括节点所在网络ID、设备ID以及节点利用率；

处于任务波峰状态的超负荷节点向中心算力调度节点查询动态节点状态表，获取内网或者外网的闲置节点，并通过任务切片限流器将超负荷节点的任务切片发送至闲置节点，所述超负荷节点被配置作为发起节点，闲置节点为目标节点；所述任务切片是指可执行的最小计算任务协议包；

接收任务切片的目标节点完成任务切片计算任务后，返回任务结果给发起节点，并向任务切片限流器反馈节点可利用状态；

任务切片限流器根据反馈的节点可利用状态决定下一步的继续发送任务切片、加大任务切片发送流量或者停止发送任务切片，直到发送节点的任务波峰状态消除。

进一步的实施例中，所述中心算力调度节点被配置为优先从内网中查询限制节点，即优先按网络ID查找动态节点状态表中的内网闲置节点。

进一步的实施例中，如果内网不存在闲置状态的计算节点，则进一步查询是否存在外网闲置节点，如存在则返回该外网闲置节点至发起节点；