[发明专利]一种Flink框架运行ETL的流程方法和装置有效
申请号: | 202111639178.7 | 申请日: | 2021-12-29 |
公开(公告)号: | CN114385137B | 公开(公告)日: | 2022-11-08 |
发明(设计)人: | 高东升;梅纲;吴鑫;胡高坤;付晨玺 | 申请(专利权)人: | 武汉达梦数据库股份有限公司 |
主分类号: | G06F8/30 | 分类号: | G06F8/30;G06F16/25;G06F16/901 |
代理公司: | 深圳市六加知识产权代理有限公司 44372 | 代理人: | 向彬 |
地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明专利提供一种Flink框架运行ETL的流程方法和装置。操作算子可以直接使用Flink的Connector,比如kafka connector,或者实现自定义的SourceFunction、ProcessFunction运行部分ETL组件构成的DAG图。只要是ETL内置支持的数据处理,可以直接发布到Flink框架执行,不再需要手工编写flink算子代码,避免了代码冗余、维护繁杂以及数据处理的不稳定性;通过设置算子的并行度,可以极大提高ETL流程并发处理能力;通过Flink流式处理的有状态计算、故障恢复、容错能力,可以保障ETL流程运行的稳定可靠性。 | ||
搜索关键词: | 一种 flink 框架 运行 etl 流程 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉达梦数据库股份有限公司,未经武汉达梦数据库股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111639178.7/,转载请声明来源钻瓜专利网。