[发明专利]一种ETL任务执行方法、系统、装置、服务器及存储介质在审
申请号: | 202010807415.5 | 申请日: | 2020-08-12 |
公开(公告)号: | CN114077630A | 公开(公告)日: | 2022-02-22 |
发明(设计)人: | 吴颖 | 申请(专利权)人: | 杭州康晟健康管理咨询有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/23;G06F16/28;G06F9/48;G06F9/50;G06F9/54 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 310000 浙江省杭州市余*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 etl 任务 执行 方法 系统 装置 服务器 存储 介质 | ||
1.一种ETL任务执行方法,其特征在于,包括:
调用ETL定时任务流程,其中,所述ETL定时任务流程包括依序设置的至少一个数据源控件和至少一个数据仓库控件,其中,各所述数据源控件连接对应的数据源,各所述数据仓库控件连接对应的数据仓库;
在所述ETL定时任务流程的执行过程中,获取流程更新指令;
当所述流程更新指令对应的更新对象不是当前执行对象时,执行所述流程更新指令,对所述ETL定时任务流程进行更新,其中,更新后的ETL定时任务流程在下一定时时刻执行。
2.根据权利要求1所述的方法,其特征在于,所述ETL定时任务流程基于预先设置的设计器生成,其中,设计器界面包括控件区、设计区、属性区和日志区;
所述ETL定时任务流程的生成方法包括:
当检测到所述控件区中的任一控件被选择时,确定在所述设计区的目标位置,将被选择的控件添加到所述设计区,其中,所述控件区包括数据源控件和数据仓库控件;
在所述设计区中的任一控件被选择时,接收所述属性区采集的属性信息,基于所述属性信息对所述设计区中被选择的控件进行属性设置;
根据所述设计区中控件的类型和控件位置,确定对应的数据源或者数据仓库,将所述对应的数据源或者数据仓库接入对应控件,得到所述ETL定时任务流程。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
对所述ETL定时任务流程进行测试,并将测试日志显示在所述日志区。
4.根据权利要求1所述的方法,其特征在于,所述流程更新指令包括如下至少一项:数据源切换指令、数据源增加指令、数据源删除指令、数据仓库切换指令、数据仓库增加指令和数据仓库删除指令。
5.根据权利要求4所述的方法,其特征在于,所述执行所述流程更新指令,对所述ETL定时任务流程进行更新,包括:
当所述流程更新指令为所述数据源切换指令或者所述数据仓库切换指令时,对所述流程更新指令中的对应控件解除与原数据源或者原数据仓库的连接,并接入新的数据源或者数据仓库;
当所述流程更新指令为所述数据源增加指令或者所述数据仓库增加指令时,根据新增数据源或新增数据仓库的执行位置,增加数据源控件或者数据仓库控件,并对新增的数据源控件接入新增数据源或者对新增的数据仓库控件接入新增数据仓库;
当所述流程更新指令为所述数据源删除指令或者所述数据仓库删除指令时,删除所述流程更新指令对应的数据源控件或者数据仓库控件。
6.根据权利要求1所述的方法,其特征在于,所述ETL定时任务流程设置有异步回调探针;
所述方法还包括:
在所述ETL定时任务流程的执行过程中,当检测到异步回调探针时,根据所述异步回调探针所在位置,将对应数据进行异步回调,并存储在预先设置的异步回调地址。
7.根据权利要求6所述的方法,其特征在于,所述探针的位置包括数据源控件之前或者数据源控件之后,相应的,进行异步回调的数据包括数据源中未处理数据或者处理后的数据。
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:
当根据所述异步回调反馈信息确定异步回调失败时,启动回调线程,并基于所述回调线程进行预设时间间隔的重新回调,直到异步回调成功或者回调次数满足预设阈值。
9.根据权利要求1所述的方法,其特征在于,所述调用ETL定时任务流程,包括:
获取当前操作用户的标识信息,基于所述标识信息确定所述当前操作用户是否为所述ETL定时任务流程的授权用户,若是,则调用所述ETL定时任务流程。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州康晟健康管理咨询有限公司,未经杭州康晟健康管理咨询有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010807415.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:彩涂机组在线膜厚检测方法
- 下一篇:一种远程音视频互动教学方法及装置