[发明专利]一种基于FlinkSQL与达梦的实时数仓方法在审
申请号: | 202210877223.0 | 申请日: | 2022-07-25 |
公开(公告)号: | CN115328981A | 公开(公告)日: | 2022-11-11 |
发明(设计)人: | 王飞;汪昱帅;李珞;冯治;余任杰 | 申请(专利权)人: | 中电云数智科技有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/28;G06F16/215;G06F9/448 |
代理公司: | 工业和信息化部电子专利中心 11010 | 代理人: | 袁鸿 |
地址: | 430100 湖北省武汉市经济技术*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 flinksql 实时 方法 | ||
1.一种基于FlinkSQL与达梦的实时数仓方法,其特征在于,包括:
基于下载的flink-connector-jdbc源码,新增达梦JDBC方言类,并继承AbstractDialect抽象类;
基于继承的AbstractDialect抽象类,配置目标连接器,其中所述目标连接器中包括连接达梦MPP的多个方法;
基于配置后的目标连接器,新增达梦RowConverter,继承AbstractJdbcRowConverter接口,以实现达梦MPP与FlinkSQL的数据转换。
2.如权利要求1所述的基于FlinkSQL与达梦的实时数仓方法,其特征在于,配置目标连接器包括如下定义步骤:
配置canHandle方法,以标记达梦jdbc连接格式;
配置getRowConverter方法,以自定义的达梦数据转换器,将数据库数据信息转换成flink数据类型;
配置defaultDriverName方法,以定义连接达梦MPP使用的jdbc连接驱动。
3.如权利要求2所述的基于FlinkSQL与达梦的实时数仓方法,其特征在于,配置目标连接器还包括如下封装步骤:
配置getInsertIntoStatement方法,封装达梦MPP插入数据SQL语句,将写入的表和数据字段,转换成为达梦MPP支持的Insert语法;
配置getDeleteStatement方法,封装达梦MPP删除数据SQL语句,将删除的表名和条件字段,转换成为达梦MPP支持的Delete语法;
配置getUpsertStatement方法,封装达梦MPP Upsert模式SQL语句,将flink需要更新的表与字段,转换成达梦MPP的MERGE INTO语法;
配置getRowExistsStatement方法,封装达梦MPP校验数据是否存在语句;
配置getUpdateStatement方法,封装达梦MPP更新数据SQL语句,将删除的表名、字段名、条件字段,转换成为达梦MPP支持的UPDATE语法;
配置getSelectFromStatement方法,封装达梦Select模式SQL语句,将查询的表名、查询字段、条件字段,转换成为达梦的select语法。
4.如权利要求3所述的基于FlinkSQL与达梦的实时数仓方法,其特征在于,配置目标连接器还包括设置步骤:
配置dialectName方法,设置达梦的方言标识为DM;
配置unsupportedTypes方法,设置达梦MPP不支持Flink数据类型。
5.如权利要求1所述的基于FlinkSQL与达梦的实时数仓方法,其特征在于,还包括如下数据写入验证步骤:
编译构建flink-connector-jdbc项目代码,形成目标数据包;
准备Kafka数据源,增加测试数据;
使用IDE构建FlinkApp,引入所述目标数据包;
编写Flink程序,Source使用kafka数据源,Sink端选择达梦jdbc;
写入所述目标数据包。
6.如权利要求5所述的基于FlinkSQL与达梦的实时数仓方法,其特征在于,所形成的目标数据包的版本与使用IDE构建FlinkApp的版本对应。
7.一种终端设备,其特征在于,包括处理器和存储器,所述存储器上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的基于FlinkSQL与达梦的实时数仓方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的基于FlinkSQL与达梦的实时数仓方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中电云数智科技有限公司,未经中电云数智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210877223.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种虚拟机内存快照方法及终端设备
- 下一篇:一种组合式配电柜