[发明专利]一种任务调度的方法及相关装置在审
申请号: | 201910977724.4 | 申请日: | 2019-10-15 |
公开(公告)号: | CN110888721A | 公开(公告)日: | 2020-03-17 |
发明(设计)人: | 梁竞雅;张观成;万书武;李均 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06F9/52 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 任务 调度 方法 相关 装置 | ||
本申请提供一种任务调度的方法及相关装置。所述方法应用于任务调度系统,所述任务调度系统包括任务调度平台和任务分发组件,所述方法包括:获取用户提交的任务流;通过所述任务调度平台对所述任务流进行拆分,得到多个任务,确定所述多个任务的提交触发条件,根据所述多个任务的提交触发条件生成可提交任务队列;将所述可提交任务队列中的任务提交到所述任务分发组件;通过所述任务分发组件将所述可提交任务队列中的任务分发给目标分布式集群,获取任务运行结果。本申请实施例的技术方案,有利于简化建立任务的过程,提高任务调度的效率。
技术领域
本申请涉及计算机技术领域,尤其涉及一种任务调度的方法及相关装置。
背景技术
Oozie是基于工作流引擎的开源框架,与Hadoop生态圈结合紧密,能够提供对Hadoop MapReduce和Pig Job的任务调度与协调。
但是,Oozie中的工作流需要用xml文件定义执行顺序,定义过于复杂,当用户需要建立多个关联的任务时,需要将任务的执行顺序写入xml文件,然后使用Oozie提交本次任务,Oozie才会调度此任务流,这样,在大数据情况下,建立任务时需要进行大量的xml文件配置,配置过程复杂,并且由于所有配置工作都在Oozie进行,Oozie的工作压力较大,任务调度的效率低。
发明内容
本申请实施例提供一种任务调度的方法及相关装置,有利于简化建立任务的过程,提高任务调度的效率。
本申请第一方面提供一种任务调度的方法,所述方法应用于任务调度系统,所述任务调度系统包括任务调度平台和任务分发组件,所述方法包括:
获取用户提交的任务流;
通过所述任务调度平台对所述任务流进行拆分,得到多个任务,确定所述多个任务的提交触发条件,根据所述多个任务的提交触发条件生成可提交任务队列;
将所述可提交任务队列中的任务提交到所述任务分发组件;
通过所述任务分发组件将所述可提交任务队列中的任务分发给目标分布式集群,获取任务运行结果。
本申请第二方面提供了一种任务调度的装置,所述装置应用于任务调度系统,所述任务调度系统包括任务调度平台和任务分发组件,所述装置包括:
获取单元,用于获取用户提交的任务流;
调度单元,用于通过所述任务调度平台对所述任务流进行拆分,得到多个任务,确定所述多个任务的提交触发条件,根据所述多个任务的提交触发条件生成可提交任务队列;
提交单元,用于将所述可提交任务队列中的任务提交到所述任务分发组件;
分发单元,用于通过所述任务分发组件将所述可提交任务队列中的任务分发给目标分布式集群,获取任务运行结果。
本申请第三方面提供了一种电子设备,所述电子设备包括处理器、存储器、通信接口以及一个或多个程序,其中,所述一个或多个程序被存储在所述存储器中,并且被配置由所述处理器执行,所述程序包括用于执行本申请第一方面任一方法中的步骤的指令。
本申请第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行以实现本申请第一方面任一方法中所描述的部分或全部步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910977724.4/2.html,转载请声明来源钻瓜专利网。