[发明专利]基于容器的机器学习流程化训练任务执行方法及系统

说明书

本发明公开了一种基于容器的机器学习流程化训练任务执行方法及系统，提出适用于机器学习模型训练与评估的抽象化过程描述语言，对机器学习模型训练所涉及的算法选择、超参设置、损失函数、优化函数、执行计划等关键环节提供模板化配置，并通过模型构建任务调度框架实现自动化模型快速训练与评估，通过免编码方式提高机器学习应用模型构建效率；通过基于容器的集群CPU、GPU、内存等算力资源的统一管控，提供多租户资源隔离、弹性扩展的容器化机器学习模型训练环境，实现集群计算资源的高效利用与统筹管理。

技术领域

本发明属于电力系统自动化人工智能技术领域，涉及一种基于容器的机器学习流程化训练任务执行方法及系统。

背景技术

作为新一轮产业变革的核心驱动力，人工智能(AI：Artificial Intelligence)在赋能提升传统行业、催生新兴产业方面成效显著。目前电力系统自动化领域人工智能研究和应用取得了一定的成果，但还存在以下问题：各类应用独立部署人工智能开发运行环境，造成了底层资源的重复建设；人工智能技术应用门槛较高，需在基础技能和算法的学习上投入大量精力，缺乏高效的AI模型构建工具支撑，影响了人工智能应用研发效率；应用AI模型成果没有在电力系统自动化领域内部形成共建共享的生态环境。

发明内容

针对现有技术存在的不足，本发明提供一种基于容器的机器学习流程化训练任务执行方法及系统，将机器学习流程化训练任务描述为有向无环图(DAG)数据结构描述的xml格式文件，通过模型构建任务调度框架实现自动化模型快速训练与评估，提高AI应用模型构建效率。

为达到上述目的，本发明采用的技术方案如下：

本发明提供一种基于容器的机器学习流程化训练任务执行方法，包括：

提交以有向无环图数据结构描述的机器学习流程化训练任务xml文件；

将机器学习流程化训练任务的初始记录插入流程信息表中，并对有向无环图规则进行校验；

对于校验成功的机器学习流程化训练任务向Kubenetes资源池申请相匹配的容器化运行环境，并创建Pod；

在Pod中加载任务执行器镜像文件生成任务执行器容器，执行机器学习流程化训练任务；

对执行完的机器学习流程化训练任务更新流程信息表，并删除Pod。

进一步的，还包括，

通过Docker+Kubernetes技术将各基础设施进行集群资源池化，生成Kubenetes资源池，通过Kubernetes API创建符合训练需求的容器化运行环境；所述基础设施包括CPU资源，GPU资源和存储资源。

进一步的，所述以有向无环图数据结构描述的机器学习流程化训练任务xml文件为：

将机器学习流程化训练任务的特征选择、算法选择、参数设置、迭代次数和验证评估环节抽象为有向无环图中的运算节点，将机器学习流程化训练任务的运行序列抽象为有向无环图中的边，将运算节点、运行序列与运行所需资源整体用xml格式描述，xml文件中包括流程ID，运算节点ID，运算节点间的连接关系和运算节点运行所需资源。

进一步的，所述流程信息表包括：流程ID、流水号、开始时间、结束时间和是否执行完成。

进一步的，所述对有向无环图规则进行校验，包括：

检查当前训练任务的上一次执行是否已完成；如果上一次训练任务已完成，则校验成功；如果上一次训练任务未完成，则校验失败；

检查当前训练任务的所有运算节点与上一次执行时的运算节点是否完全相同；如果完全相同，则校验成功；如果不完全相同，检查当前执行运算节点的前序是否增加或减少了运算节点，未增加或减少则校验成功，增加或减少则校验失败。