[发明专利]一种任务处理方法及装置有效
申请号: | 202110857003.7 | 申请日: | 2021-07-28 |
公开(公告)号: | CN113312165B | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 陈文灿;周明伟;钱浩东 | 申请(专利权)人: | 浙江大华技术股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06F16/182 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 张恺宁 |
地址: | 310053 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 任务 处理 方法 装置 | ||
1.一种任务处理方法,其特征在于,适用于运行于容器集群管理系统中的资源管理系统;所述资源管理系统中的资源管理单元RM和节点代理单元NM以应用实例POD的方式运行于所述容器集群管理系统中, 所述容器集群管理系统为Kubernetes系统,所述资源管理系统为yarn系统;所述的方法包括:
所述资源管理单元RM接收客户端发送的任务处理请求,通知所述节点代理单元NM生成任务协调请求,并将所述任务协调请求通过所述容器集群管理系统的统一资源接口发送至任务调度单元AM,所述任务调度单元AM为所述统一资源接口根据所述任务协调请求创建的,且所述任务调度单元AM以应用实例POD的方式运行于所述容器集群管理系统中;
所述任务调度单元AM根据所述任务协调请求生成启动任务请求,并将所述启动任务请求发送至所述节点代理单元NM;
所述节点代理单元NM根据所述启动任务请求生成创建任务容器请求,并将创建任务容器请求发送至所述统一资源接口,所述创建任务容器请求中包含任务的描述信息和任务容器的描述信息;
所述统一资源接口根据所述创建任务容器请求创建任务容器,所述任务容器用于任务进程执行所述任务处理请求。
2.如权利要求1中所述的方法,其特征在于,将所述任务协调请求通过所述容器集群管理系统的统一资源接口发送至任务调度单元AM,包括:
所述统一资源接口接收所述任务协调请求,根据所述任务协调请求在任务调度服务器中创建所述任务调度单元AM,将所述任务协调请求发送至所述任务调度单元AM,并根据所述任务协调请求在所述任务调度单元AM中创建任务容器,所述任务协调请求中包含任务的描述信息和任务容器的描述信息,所述任务调度服务器是所述资源管理单元RM根据所述任务处理请求确定的。
3.如权利要求1中所述的方法,其特征在于,所述任务调度单元AM根据所述任务协调请求生成启动任务请求之前,还包括:
所述任务调度单元AM在所述资源管理单元RM中进行注册,所述注册用于建立所述任务调度单元AM和所述资源管理单元RM之间心跳连接;
所述任务调度单元AM从所述资源管理单元RM中获取任务作业资源,根据所述任务作业资源生成启动任务请求,所述任务作业资源包含至少一个服务器ID。
4.如权利要求1中所述的方法,其特征在于,所述节点代理单元NM根据所述启动任务请求生成创建任务容器请求,包括:
所述节点代理单元NM根据所述启动任务请求中的至少一个服务器ID生成所述创建任务容器请求,并将所述创建任务容器请求发送至所述统一资源接口;
所述统一资源接口根据所述创建任务容器请求创建任务容器,包括:
所述统一资源接口接收所述创建任务容器请求,在所述至少一个服务器ID对应的服务器中创建任务容器,所述至少一个服务器ID为资源管理服务器ID、任务处理服务器ID中的任意一个或多个。
5.如权利要求1中所述的方法,其特征在于,将创建任务容器请求发送至所述统一资源接口之后,还包括:
所述节点代理单元NM生成任务监控请求并发送至所述统一资源接口;
所述统一资源接口接收所述任务监控请求,并根据所述任务监控请求对所述任务容器进行监控。
6.如权利要求1中所述的方法,其特征在于,所述统一资源接口根据所述创建任务容器请求创建任务容器之后,还包括:
所述统一资源接口获取任务处理结果,并将所述任务处理结果发送至所述节点代理单元NM;
所述节点代理单元NM获取所述任务处理结果,并将所述任务处理结果发送至所述资源管理单元RM;
所述资源管理单元RM将所述任务处理结果发送至所述客户端。
7.如权利要求6中所述的方法,其特征在于,所述资源管理单元RM将所述任务处理结果发送至所述客户端之后,还包括:
所述统一资源接口确定所述任务进程结束,将所述任务进程结束状态通知所述节点代理单元NM;
所述节点代理单元NM根据任务进程结束状态生成删除任务容器请求,并将所述删除任务容器请求发送至所述统一资源接口;
所述统一资源接口删除所述任务容器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大华技术股份有限公司,未经浙江大华技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110857003.7/1.html,转载请声明来源钻瓜专利网。