[发明专利]一种用于调度ETL任务的方法与设备在审
申请号: | 201310270366.6 | 申请日: | 2013-06-30 |
公开(公告)号: | CN104252381A | 公开(公告)日: | 2014-12-31 |
发明(设计)人: | 毛枫华;王以弘;先永春;肖振全;史绍伟;杨小飞;胡建华;李瑾;谢马林;郝博伟;邓桂英;宋岚 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F9/46 | 分类号: | G06F9/46 |
代理公司: | 北京汉昊知识产权代理事务所(普通合伙) 11370 | 代理人: | 罗朋;周建华 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 调度 etl 任务 方法 设备 | ||
1.一种在任务调度设备端用于调度ETL任务的方法,其中,该方法包括以下步骤:
x获取一个或多个ETL任务,以及所述ETL任务所对应的任务配置信息;
y根据所述任务配置信息,确定所述ETL任务所对应的调度时间信息;
z根据所述一个或多个ETL任务,以及所述ETL任务所对应的调度时间信息,建立或更新对应的任务池;
其中,该方法还包括:
a根据所述调度时间信息,对所述任务池中的ETL任务进行调度,以获得待执行的目标ETL任务;
b执行所述目标ETL任务。
2.根据权利要求1所述的方法,其中,该方法还包括:
r当所述目标ETL任务被成功执行后,确定与所述目标ETL任务的后续ETL任务相对应的调度时间信息;
其中,所述步骤z还包括:
-根据所述后续ETL任务及其调度时间信息,更新所述任务池。
3.根据权利要求2所述的方法,其中,所述步骤r包括:
-当所述目标ETL任务被成功执行后,根据所述后续ETL任务的任务周期与所述目标ETL任务的任务周期,确定所述后续ETL任务所对应的调度时间信息。
4.根据权利要求2所述的方法,其中,所述步骤r包括:
-当所述目标ETL任务被成功执行后,根据所述后续ETL任务的任务周期与所述目标ETL任务的任务周期,确定所述后续ETL任务与所述目标ETL任务的依赖关系信息;
-根据所述依赖关系信息,以及所述后续ETL任务的任务周期与所述目标ETL任务的任务周期,确定所述后续ETL任务所对应的调度时间信息。
5.根据权利要求1至4中任一项所述的方法,其中,该方法还包括:
-当所述目标ETL任务被执行失败后,更新所述目标ETL任务所对应的调度时间信息;
其中,所述步骤z还包括:
-根据所述目标ETL任务及其更新后的调度时间信息,更新所述任务池。
6.根据权利要求1至5中任一项所述的方法,其中,所述步骤y包括:
-根据所述任务配置信息,以及所述ETL任务所对应的应用相关信息,确定所述ETL任务所对应的调度时间信息。
7.根据权利要求1至6中任一项所述的方法,其中,该方法还包括:
-将所述目标ETL任务的执行结果信息发送至对应的网络设备。
8.根据权利要求7所述的方法,其中,该方法还包括:
-接收所述网络设备提供的其他任务池中被成功执行的第二目标ETL任务的执行结果信息;
-根据所述执行结果信息,确定与所述第二目标ETL任务的第二后续ETL任务相对应的调度时间信息;
其中,所述步骤z还包括:
-根据所述第二后续ETL任务及其调度时间信息,更新所述任务池。
9.一种在网络设备端用于辅助调度ETL任务的方法,其中,该方法包括以下步骤:
-在网络设备中注册一个或多个任务调度设备,其中,所述任务调度设备所对应的注册信息包括所述任务调度设备所对应的ETL任务与其他任务调度设备所对应的ETL任务之间的依赖关系;
其中,该方法还包括:
A接收所述任务调度设备发送的目标ETL任务所对应的执行结果信息;
B将所述执行结果信息提供给对应的用户设备。
10.根据权利要求9所述的方法,其中,所述该方法还包括:
-当所述执行结果信息包括成功执行结果信息时,根据所述目标ETL任务所对应的注册信息,确定依赖于所述目标ETL任务的后续任务;
-向所述后续任务所对应的任务调度设备发送所述目标ETL任务的执行结果信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310270366.6/1.html,转载请声明来源钻瓜专利网。