[发明专利]面向大规模数据流处理的GPU边缘计算集群通信系统

说明书

本发明涉及一种面向大规模数据流处理的GPU边缘计算集群通信系统，针对边缘计算数据流的周期处理特性，在传感节点、汇集节点、GPU计算节点按照同一处理周期配置通讯包，形成数据流链路；通过成千上万个数据流链路实现了单一数据流、并发数据流的通信。运用节点、数据流配置机制，只需按照功能类别和流的名字编写通信应用，降低了应用的复杂度，支持大规模流应用的普及展开；采用组确认机制，提高了并行通信的效率，更适合大规模扩展；采用动态配置以及流路由机制，通过重传率驱动负载均衡，可灵活配置传感节点、汇集节点、GPU计算节点的网络结构；在单一资源失效的情况下，灵活地隔离或增加节点资源，达到容错效果，提高了系统的可用性。

技术领域

本发明涉及一种数据传输技术，特别涉及一种面向大规模数据流处理的GPU边缘计算集群通信系统。

背景技术

随着物联网技术和人工智能技术的飞速发展，相应的复合应用已经在各个领域展开，特别是基于视频和传感数据流的实时分析技术应用已经成为热点。例如，大规模视频监控用于公交系统拥挤度实时分析、用于大社区范围的养老照护、工业自动化分拣应用等。对于这些基于传感的大规模应用面临诸多问题需要解决：1)传感信息的实时处理对前端传感设备的成本提出了挑战；2)视频数据的实时传输对通讯网络产生了压力；3)视频数据的存储和传输对隐私保护问题带来了应用难点(如居家养老照护隐私问题)。这些都为边缘计算技术的应用带来了机会。其关键是构建高性能价格比的边缘计算架构、模型和应用支撑模式。以小型GPU集群为中心的边缘计算模式可以有效解决局部大规模传感的汇集、传输、计算和存储的综合高性价比系统。然而面对数千个数据流的接入、集群内传输以及通信的可靠性问题都为业界带来了新的挑战，目前的相近的通信系统存在以下问题：1)大规模AI流都存在并发周期性，也就是说，数千个流按照一定的周期传输数据流单元，GPU集群按照这个周期并行处理数千个数据流单元，这样可以有效发挥GPU及GPU集群的SPMD(SingleProgram Multi Data)的设备优势特性。然而，支持这种通信特性需求的系统还没见报导。2)外网传感节点通过流汇集节点把信息传入GPU计算集群，GPU计算集群内的节点也需要通过汇集节点传输信息到外部传感节点，增加了应用设计的复杂性。3)现有系统基于连接的的可靠数据流通信机制，限制了系统接入和并发处理数据流的规模，同时不具备灵活的迁移性，使得负载均衡的开销增大以及灵活性降低，不适合大规模的处理机制的扩展。

发明内容

本发明是针对大规模AI流通信效率和可靠性的问题，提出了一种面向大规模数据流处理的GPU边缘计算集群通信系统，面对大规模AI流，其通过动态配置节点、流路由机制，利用前端智能传感设备固有的周期地获取数据、传输数据的特点，把数千个传感特征并发传输到汇集集群节点，再根据GPU计算节点的计算任务和计算能力的特性，把这些并发的数据流单元，传输到GPU集群中的计算节点按照SPMD模式统一并行实时处理。

本发明的技术方案为：一种面向大规模数据流处理的GPU边缘计算集群通信系统，

包括传感节点、汇集节点、GPU计算节点；系统结构如下：

传感节点是系统的末端节点，其收集其传感数据并以数据流的形式发送到汇集节点，同时可以接受来自汇集节点、或来自计算节点的控制命令；

汇集节点收集来自多个不同传感节点的数据流，并按照数据流单元的处理周期聚类形成并发数据流发送到计算节点；另一方面，通过并发数据流双向传递传感节点与计算节点间的控制命令；

计算节点收集来自多个汇集节点的并发数据流的当前数据流单元，形成当前SPMD处理单元，并送往GPU实施大规模并行处理；计算节点以并发数据流的形式在计算节点间传递数据，同时通过逆向并发数据流向传感节点和汇集节点传输控制命令；