[发明专利]一种离线数据处理任务发布方法及系统在审
申请号: | 202011473566.8 | 申请日: | 2020-12-15 |
公开(公告)号: | CN112445600A | 公开(公告)日: | 2021-03-05 |
发明(设计)人: | 王锋;王同猛;郭振;程俊杰 | 申请(专利权)人: | 北京首汽智行科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F16/242 |
代理公司: | 北京世誉鑫诚专利代理有限公司 11368 | 代理人: | 李世端 |
地址: | 100026 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 离线 数据处理 任务 发布 方法 系统 | ||
1.一种离线数据处理任务发布方法,其特征在于,包括:
根据用户的离线数据处理任务更新操作,从代码评审中心Gerrit中获取各个离线数据处理任务的最新代码;
编辑所述最新代码,对所述各个离线数据处理任务进行配置并将配置后的各个离线数据处理任务的状态设置为待发布状态;
利用调度引擎,将待发布状态的离线数据处理任务发送至任务调度中心进行发布。
2.根据权利要求1所述的离线数据处理任务发布方法,其特征在于,利用调度引擎,将待发布状态的离线数据处理任务发布至任务调度中心包括:
解析所述待发布状态的离线数据处理任务对应的SQL语句;
根据所述SQL语句,确定所述离线数据处理任务关联的源数据表及目标数据表;
根据所述源数据表及所述目标数据表,确定与所述离线数据处理任务具有依赖关系的离线数据处理任务。
3.根据权利要求1所述的离线数据处理任务发布方法,其特征在于,利用调度引擎,将待发布状态的离线数据处理任务发布至任务调度中心包括:
根据执行参数中的源数据表参数及目标数据表参数,确定脚本类的离线数据处理任务关联的源数据表和目标数据表;
根据所述源数据表和所述目标数据表,确定与所述离线数据处理任务具有依赖关系的离线数据处理任务。
4.根据权利要求2或3所述的离线数据处理任务发布方法,其特征在于,根据所述源数据表和所述目标数据表,确定与所述离线数据处理任务具有依赖关系的离线数据处理任务包括:
根据所述源数据表和所述目标数据表,确定所述离线数据处理任务的类型及所述离线数据处理任务与其他离线数据处理任务之间的血缘关系;
根据所述离线数据处理任务的类型及所述离线数据处理任务与其他离线数据处理任务之间的血缘关系,确定与所述离线数据处理任务具有依赖关系的离线数据处理任务。
5.根据权利要求1所述的离线数据处理任务发布方法,其特征在于,编辑所述最新代码,对所述各个离线数据处理任务进行配置包括:
为需要强制执行的离线数据处理任务设置标识。
6.一种离线数据处理任务发布系统,其特征在于,包括:
获取模块,用于根据用户的离线数据处理任务更新操作,从代码审查工具Gerrit中获取各个离线数据处理任务的最新代码;
配置模块,用于编辑所述最新代码,对所述各个离线数据处理任务进行配置并将配置后的各个离线数据处理任务的状态设置为待发布状态;
发布模块,用于利用调度引擎,将待发布状态的离线数据处理任务发布至任务调度中心。
7.一种计算机程序产品,其特征在于,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,使所述计算机执行如权利要求1-5任一项所述的方法。
8.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行如权利要求1-5任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京首汽智行科技有限公司,未经北京首汽智行科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011473566.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种介孔Beta分子筛的制备方法
- 下一篇:一种可切换车载香氛装置