[发明专利]面向边缘设备及数据安全的分布式机器学习系统及方法

权利要求书

1.面向边缘设备及数据安全的分布式机器学习系统，包括：

一个或多个云端计算设备，其执行指令并存储数据，实现机器学习系统云端模块；

一个或多个边缘端计算设备，其执行指令并存储数据，实现机器学习系统边缘端模块，同时可配备一个或多个GPU或FPGA设备，用于加速模型训练或推理过程；

建立其上的机器学习系统，包括虚拟网络模块，容器编排模块，分布式的数据预处理模块、机器学习训练模块、机器学习推理模块，以及集中式的模型应用注册中心、资源管理控制台、API网关模块，所述数据预处理模块、机器学习训练模块、机器学习推理模块均以容器化方式提供服务，并依托虚拟网络模块及容器编排模块实现服务的运行及交互，所述模型应用注册中心、资源管理控制台对设备、模型、应用进行全生命周期管理与监控。

2.根据权利要求1所述的面向边缘设备及数据安全的分布式机器学习系统，其特征在于：所述的云端计算设备，集中存储训练后的机器学习模型，并根据指令将模型打包为容器进行分发；所述的边缘端计算设备，根据指令进行本地模型训练，接收并存储云端下发的推理应用，在本地提供WEB推理服务；调用GPU或FPGA资源，加速模型训练或推理过程；

所述的虚拟网络模块提供动态IP环境下组建虚拟私有网络的功能，使用加密协议保证传输数据的安全性，并通过设备认证技术实现动态网络准入控制；

所述的容器编排模块具备容器运行及调度功能，可根据设备资源使用情况及容器运行资源需求，动态伸缩容器规模或调用GPU、FPGA等资源。

3.根据权利要求2所述的面向边缘设备及数据安全的分布式机器学习系统，其特征在于：所述的数据预处理模块根据用户请求信息到模型应用注册中心拉取相应镜像，并由边缘端容器编排模块调度执行相应预处理逻辑；一个或多个边缘端设备对本地数据进行分布式联合数据预处理。

4.根据权利要求2所述的面向边缘设备及数据安全的分布式机器学习系统，其特征在于：所述的机器学习训练模块根据用户请求信息到模型应用注册中心拉取相应镜像，并由边缘端容器编排模块调度执行相应模型训练逻辑；一个或多个边缘端设备对同一模型进行分布式联合训练。

5.根据权利要求2所述的面向边缘设备及数据安全的分布式机器学习系统，其特征在于：所述的机器学习推理模块根据用户请求信息到模型应用注册中心拉取相应镜像，并由边缘端容器编排模块调度执行相应模型推理逻辑；一个或多个边缘端设备对同一推理服务提供分布式支持。

6.根据权利要求1所述的面向边缘设备及数据安全的分布式机器学习系统，其特征在于：所述的模型应用注册中心统一管理模型和应用镜像，存储上传的模型或应用镜像，并自动将模型打包为WEB应用镜像，以存储或分发；

所述的资源管理控制台统一监控各云边设备、模型、应用状态，并提供WEB页面对设备、模型、应用等进行操作或发起机器学习任务；

所述的API网关模块统一管理云边各个模块对外提供的API接口，并提供认证鉴权、流量控制服务。

7.面向边缘设备及数据安全的分布式机器学习方法，其特征在于：包括如下步骤：

S1，边缘端向模型应用注册中心请求数据预处理镜像，并运行该容器服务；该服务根据传入参数对本地数据进行预处理；

S2，边缘端模型训练模块通过联邦机器学习算法，对接收到的预处理数据进行多边缘端、分布式机器学习模型训练，并将训练后的模型推送到模型应用注册中心；

S3，模型应用注册中心接收到边缘端推送的模型后将模型自动打包为WEB应用镜像；

S4，模型应用注册中心版本化存储接收到的模型及打包后的WEB应用镜像；

S5，各边缘端通过机器学习模型应用注册中心申请所需应用镜像，管理中心将镜像推送至边缘端设备，由边缘端运行并提供模型推理服务。