[发明专利]一种基于微容器云的边缘AI计算集群

说明书

本发明公开一种基于边缘微容器云的边缘AI计算集群，应用于边缘计算、人工智能、云计算及5G通讯技术领域，针对现有技术难以满足城市管理对数据的多模态、全时段、全目标、全背景、全跟踪、全认知及全域范围内(全城)数据的实时综合分析要求的问题；本发明通过构造边缘微容器集群、边缘AI计算集群，实现对计算任务进行自动拆分、合并，以最大限度地利用边缘集群的计算资源；同时以并行化的计算方式，极大提高了任务执行效率，并通过多层级云架构，实现在总云端可以实现对模型的集中式训练和分布式部署。

技术领域

本发明属于边缘计算、人工智能、云计算及5G通讯技术领域，特别涉及一种基于微容器云的边缘AI计算集群的构造技术。

背景技术

随着平安城市、智慧交通、城市大脑对城市智能化管理程度的要求越来越高，使得监控摄像头和其他传感设备在城市边缘端部署也越来越密集，因此如何对这些边缘数据进行实时计算和智能分析，特别是对监控视频中出现的移动物体进行实时探测、识别、跟踪和认知等，已成为实现城市的精细化、智能化、精确化及敏捷化管理的紧迫需求。

目前对边缘数据进行计算处理主要包括以下几种方式：

一是使用边缘采集设备，利用其自身的计算能力，对特定数据进行处理。比如使用感应线圈对机动车闯红灯拍照、使用雷达对城市管道探测等，然而这种方式通常存在以下问题：其一为专有设备的硬件配置和计算能力通常是固化有限的，当硬件提供的计算能力不能满足边缘计算需求时，必须要更换新的设备，从而造成资源浪费和成本增加；其二为这种专有设备通常是事先预置好算法模型，而对于事先无法预置的算法模型，将难以实现算法模型的快速及实时更新；其三为这种专有设备通常是封闭并且不联网的，因此对于跨采集，跨设备的数据分析，将难以实现数据的实时共享、融合和对比分析。

二是使用边缘专有计算设备，虽然边缘采用多核ARM处理器、多核GPU、多核DSP等，具备一定的计算能力，但因其本身仍是单设备，当边缘处理复杂任务或计算规模扩大时，这种仅依靠单设备的计算能力同样会面临计算力不够的情况。

三是使用微型电脑设备(比如树莓派)作为边缘计算设备，将其放置在机房内，并且一个采集设备对应一个边缘计算设备，这种方式通常会增加数据传输延时，而且当边缘端需要实时处理复杂计算任务时，单个边缘计算设备将无法提供足够的计算资源和计算能力来满足实时性处理要求。

四是前端设备只负责数据采集，然后将其全部传送到数据中心/云端集中处理。这种方式不仅增加了数据传输的时延，而且还会占用较高的网络带宽资源以及数据中心/云端数据入口资源。

综合以上目前关于边缘计算方式的做法，受限于边缘单设备的处理能力限制，边缘设备要么采用专有设备处理特定数据，要么采用专有计算设备、要么采用微型设备/终端，存在计算力不足并难以灵活扩展、设备采集功能和类型单一、人工智能模型迭代更新困难或成本高昂、多模态数据缺乏融合分析、以及缺少多层级云计算的统一管控的问题，这将难以满足城市管理对数据的多模态、全时段、全目标、全背景、全跟踪、全认知及全域范围内(全城)数据的实时综合分析要求。

发明内容

针对以上边缘计算存在的相关问题，本发明提出了一种基于微容器云的边缘AI计算集群；边缘集群部署在靠近数据采集端(或区域数据中心)，面向AI计算(即人工智能计算)模型的容器资源管控，使用成本相对低廉的移动设备，基于剪裁后的Linux系统、面向移动设备的Kubernetes容器云等。

本发明采用的技术方案为：一种基于微容器云的边缘AI计算集群，边缘微容器云构建具体为：边缘AI计算硬件集群组装和检查完成后，首先确定边缘微容器云的管控节点、主节点、工作节点，具体为：选择一个通用移动设备作为边缘微容器云的管控节点；选择两个移动设备作为边缘微容器云主节点，然后将所有移动设备都设置为工作节点；然后由管控节点从总云下载安装边缘微容器云所需的基础环境安装包和镜像安装包并进行安装；

所述安装过程包括：