[发明专利]一种Flink框架运行ETL的流程联合组件方法和装置有效
申请号: | 202111639180.4 | 申请日: | 2021-12-29 |
公开(公告)号: | CN114385138B | 公开(公告)日: | 2023-01-06 |
发明(设计)人: | 高东升;梅纲;吴鑫;胡高坤;付晨玺 | 申请(专利权)人: | 武汉达梦数据库股份有限公司 |
主分类号: | G06F8/30 | 分类号: | G06F8/30;G06F16/25;G06F16/901 |
代理公司: | 深圳市六加知识产权代理有限公司 44372 | 代理人: | 向彬 |
地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及数据处理技术领域,本发明专利提供一种Flink框架运行ETL的流程联合组件方法和装置;ETL流程组件经过拆分重组,然后翻译转换成Flink的操作算子,在Flink操作算子方法中运行重组的ETL子流程,避免重复编写Flink算子中数据处理逻辑代码,避免重复实现数据联合的逻辑代码;union组件的多个数据源可在flink框架不同的TaskManager节点分区或分片并发读取,极大提高数据读取的效率;union组件以及union组件的后续组件集合运行在Flink操作算子的方法ProcessFunction中,避免了使用Flink的union算子,从而避免了不必要的数据序列化和反序列化、网络传输,极大提高数据联合的效率。 | ||
搜索关键词: | 一种 flink 框架 运行 etl 流程 联合 组件 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉达梦数据库股份有限公司,未经武汉达梦数据库股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111639180.4/,转载请声明来源钻瓜专利网。