[发明专利]一种分布式AI系统

说明书

一种分布式AI系统，可以为DDAI系统，用以灵活、高效地解决人工智能类应用任务。DDAI系统包括注册单元，用于当组件动态接入所述DDAI系统时进行注册或当组件从所述DDAI系统断开时进行注销；任务计划管理单元，用于根据接入的组件的特性，计划、管理分布式AI任务；任务交互单元，用于接入的组件之间交互信息；任务执行单元，用于接入的组件执行分配的分布式AI子任务，以使完成所述分布式AI任务；标准化单元，用于使所述DDAI系统对应统一的空间，其中，所述统一的空间包括统一的特征空间、统一的标记空间；所述的组件可以为独立的物理设备或者云虚拟节点；每个组件可以承载一个或者多个所述的单元。

技术领域

本申请涉及人工智能(artificial intelligence，AI)领域，尤其涉及一种分布式人工智能AI系统。

背景技术

机器学习系统是AI系统最重要的分支。分布式机器学习(distributed machinelearning，DML)系统是目前常用的处理大规模人工智能类应用任务的系统。传统分布式机器学习系统是中心化的系统，利用计算集群，通过对海量用户数据进行训练得到预测模型。这样的中心化系统往往要求密集的计算资源，且海量的用户数据上传云侧存储，极易造成隐私安全问题。

为了解决上述隐私保护问题，最近联邦学习(federated learning，FL)系统提出了本地与云的交互模式，通过数据存储在本地并在本地进行计算以保护用户数据隐私，同时利用同态加密、模型聚合、差分隐私的手段使得本地与云的交互中传递的模型以及相关变量难以反推出用户的信息。

在上述两种主要的处理大规模人工智能任务的AI系统中，系统中节点连接的结构相对稳定，工作节点的数目有限，且存储于工作节点的数据样本的特征空间、标记空间均一致。然而对于终端设备来说，经常面临设备随时接入网络与从网络断开、异构设备采集的特征分属不同的特征空间，甚至每个终端设备面临的AI任务不同，属于不同的标记空间的问题。上述两种AI系统难以满足在上述设备动态接入、断开以及设备异构条件下完成人工智能类应用任务的需求。进一步地，上述两种AI系统均依赖于一个中心节点全局同步，会造成较大的通信开销，使得在解决AI任务时的灵活性与效率受到极大影响。

发明内容

本提供一种分布式AI系统，用以灵活、高效地解决人工智能类应用任务。

第一方面，本申请提供了一种分布式AI系统，所述分布式AI系统为去中心化分布式人工智能(decentralized distributed AI，DDAI)系统，包括：注册单元，用于当组件动态接入所述DDAI系统时进行注册或当组件从所述DDAI系统断开时进行注销；任务计划管理单元，用于根据接入组件的特性，计划、管理分布式AI任务；任务交互单元，用于接入的组件之间交互信息；任务执行单元，用于接入的组件执行被分配的分布式AI子任务，使其完成所述分布式AI任务；标准化单元，用于使所述分布式AI系统对应统一的空间，其中，所述统一的空间包括统一的特征空间、统一的标记空间；其中，所述的组件可以为独立物理设备或者云虚拟节点；每个组件承载一个或者多个所述的单元。

上述DDAI系统无需依赖中心节点，可以通过多个组件的异构性、动态性、自动协同与自动适配灵活且高效地解决AI任务，同时可以节省通信开销。

在一种可能的设计中，所述注册单元还用于发现所述注册单元所属组件的相邻接组件；相邻接的组件集成一个虚拟节点，集成一个虚拟节点的组件全部为物理设备或者全部为云虚拟节点。这样可以后续通过异构组件灵活且高效地解决AI任务。

在一种可能的设计中，所述任务计划管理单元包括分布式AI任务计划单元，用于根据特定规则或特定算法发起、接收AI任务计划；所述任务计划管理单元具体用于通过与所述虚拟节点中其它组件的任务计划管理单元协同，根据包括所述任务计划管理单元的组件的特性，在每个组件的分布式AI子任务分配上达成一致，并记录包括所述任务计划管理单元的组件的子任务计划；其中，所述特性包括外设特性、功能特性、计算能力。