[发明专利]ETL任务执行方法、装置、计算机设备及存储介质有效

专利信息
申请号: 202011122388.4 申请日: 2020-10-20
公开(公告)号: CN112015799B 公开(公告)日: 2021-04-06
发明(设计)人: 熊汉 申请(专利权)人: 深圳赛安特技术服务有限公司
主分类号: G06F16/25 分类号: G06F16/25
代理公司: 深圳市力道知识产权代理事务所(普通合伙) 44507 代理人: 张传义
地址: 518000 广东省深圳市前海深港合作区前*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: etl 任务 执行 方法 装置 计算机 设备 存储 介质
【权利要求书】:

1.一种ETL任务执行方法,其特征在于,包括:

在ETL任务开始执行前,判断数据存储端是否有与所述ETL任务对应的中间数据;

若所述数据存储端有与所述ETL任务对应的中间数据,则获取所述ETL任务包括的数据处理通道中的任务数据,以及所述ETL任务包括的逻辑处理模块的处理状态,其中,所述ETL任务包括多个依次连接的逻辑处理模块,两个相邻的逻辑处理模块之间通过所述数据处理通道连接,所述处理状态包括多个所述逻辑处理模块对当前的任务数据的处理状态;

将所述数据处理通道中的任务数据,以及所述逻辑处理模块的处理状态确定为中间数据;

将所述中间数据中的数据处理通道中的任务数据,确定为所述ETL任务的数据处理通道中的任务数据,以及将所述中间数据中的逻辑处理模块的处理状态,确定为所述ETL任务的多个逻辑处理模块对当前的任务数据的处理状态,以使所述ETL任务根据所述ETL任务的数据处理通道中的任务数据和多个逻辑处理模块对当前的任务数据的处理状态进行断点重启;

若所述数据存储端没有与所述ETL任务对应的中间数据,则执行所述ETL任务;

在所述ETL任务的执行期间,获取所述ETL任务在执行期间的中间数据,并将所述中间数据存储至所述数据存储端中。

2.根据权利要求1所述的ETL任务执行方法,其特征在于,所述将所述中间数据存储至所述数据存储端中,包括:

确定所述ETL任务包括的数据处理通道的通道标识;

针对所述中间数据中包括的每个数据处理通道,将所述数据处理通道的通道标识、所述数据处理通道中的任务数据以及所述数据处理通道对应的逻辑处理模块的处理状态对应存储至所述数据存储端中。

3.根据权利要求2所述的ETL任务执行方法,其特征在于,所述将所述中间数据中的数据处理通道中的任务数据,确定为所述ETL任务的数据处理通道中的任务数据,以及将所述中间数据中的逻辑处理模块的处理状态,确定为所述ETL任务的多个逻辑处理模块对当前的任务数据的处理状态,包括:

针对所述ETL任务中的每个数据处理通道,根据所述数据处理通道的通道标识,在所述中间数据中确定与所述通道标识对应的数据处理通道中的任务数据,以及确定与所述通道标识对应的逻辑处理模块的处理状态;

将所述与所述通道标识对应的数据处理通道中的任务数据,确定为所述ETL任务的所述数据处理通道中的任务数据;以及

将所述与所述通道标识对应的逻辑处理模块的处理状态,确定为所述ETL任务中的所述数据处理通道对应的逻辑处理模块对当前的任务数据的处理状态。

4.根据权利要求1至3任一项所述的ETL任务执行方法,其特征在于,所述在ETL任务开始执行前,判断数据存储端是否有与所述ETL任务对应的中间数据,包括:

在ETL任务开始执行前,判断所述ETL任务是否配置有断点续传功能;

若所述ETL任务配置有断点续传功能,则判断数据存储端是否有与所述ETL任务对应的中间数据。

5.根据权利要求1至3任一项所述的ETL任务执行方法,其特征在于,所述方法还包括:

在所述ETL任务执行完成后,将所述数据存储端中与所述ETL任务对应的中间数据删除。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳赛安特技术服务有限公司,未经深圳赛安特技术服务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011122388.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top