[发明专利]任务调度处理方法、装置、集群系统及可读存储介质在审
申请号: | 202010957856.3 | 申请日: | 2020-09-11 |
公开(公告)号: | CN112035238A | 公开(公告)日: | 2020-12-04 |
发明(设计)人: | 原帅;郝文静;张涛;王家尧;吕灼恒;李斌;沙超群;历军 | 申请(专利权)人: | 曙光信息产业(北京)有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 衡滔 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 任务 调度 处理 方法 装置 集群 系统 可读 存储 介质 | ||
1.一种任务调度处理方法,其特征在于,应用于集群系统中的计算节点,所述方法包括:
获取所述集群系统中的调度节点发送的作业任务,所述作业任务为所述集群系统中的提交节点根据任务参数生成的HPC任务或AI任务;
根据所述作业任务中的表征任务类型的标识,确定所述作业任务的任务类型;
调用与所述任务类型对应的前处理组件,初始化任务环境,得到用于执行所述HPC任务或AI任务的运行环境;
根据所述作业任务的任务内容,通过所述运行环境执行所述作业任务,得到执行结果。
2.根据权利要求1所述的方法,其特征在于,调用与所述任务类型对应的前处理组件,初始化任务环境,得到用于执行所述HPC任务或AI任务的运行环境,包括:
当所述作业任务为HPC任务时,调用与所述HPC任务对应的前处理组件,初始化任务环境,得到用于执行所述HPC任务的运行环境;
当所述作业任务为AI任务时,调用与所述AI任务对应的前处理组件,初始化任务环境,得到用于执行所述AI任务的运行环境。
3.根据权利要求2所述的方法,其特征在于,所述前处理组件包括通用处理组件、AI框架处理组件,调用与所述AI任务对应的前处理组件,初始化任务环境,得到用于执行所述AI任务的运行环境,包括:
调用所述通用处理组件,选择与所述AI任务中的子任务对应的目标硬件资源;
调用所述AI框架处理组件,选择与所述AI任务对应的处理框架、加速器;
根据所述目标硬件资源、所述处理框架、所述加速器,创建用于执行所述子任务的容器,得到用于执行所述AI任务的运行环境。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
清除与所述作业任务对应的目标硬件资源的关联关系、所述容器。
5.根据权利要求1所述的方法,其特征在于,获取所述集群系统中的调度节点发送的作业任务,包括:
获取所述集群系统中通过所述调度节点的HPC调度器发送的作业任务。
6.一种任务调度处理方法,其特征在于,应用于集群系统,所述集群系统包括提交节点、调度节点及多个计算节点,所述方法包括:
所述提交节点,根据任务参数生成作业任务,所述作业任务包括HPC任务或AI任务;
所述调度节点,从所述提交节点获取所述作业任务;
所述调度节点,从多个计算节点中确定与所述作业任务的任务参数匹配的计算节点为目标计算节点;
所述目标计算节点,根据所述作业任务中的表征任务类型的标识,确定所述作业任务的任务类型;
所述目标计算节点,调用与所述任务类型对应的前处理组件,初始化任务环境,得到用于执行所述HPC任务或AI任务的运行环境;
所述目标计算节点,根据所述作业任务的任务内容,通过所述运行环境执行所述作业任务,得到执行结果。
7.一种任务调度处理装置,其特征在于,应用于集群系统中的计算节点,所述装置包括:
获取单元,获取所述集群系统中的调度节点发送的作业任务,所述作业任务为所述集群系统中的提交节点根据任务参数生成的HPC任务或AI任务;
确定单元,用于根据所述作业任务中的表征任务类型的标识,确定所述作业任务的任务类型;
前处理单元,用于调用与所述任务类型对应的前处理组件,初始化任务环境,得到用于执行所述HPC任务或AI任务的运行环境;
执行单元,用于根据所述作业任务的任务内容,通过所述运行环境执行所述作业任务,得到执行结果。
8.一种服务器,其特征在于,所述服务器包括相互耦合的存储器、处理器,所述存储器内存储计算机程序,当所述计算机程序被所述处理器执行时,使得所述服务器执行如权利要求1-5中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业(北京)有限公司,未经曙光信息产业(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010957856.3/1.html,转载请声明来源钻瓜专利网。