[发明专利]一种基于kafka-connect的数据传递方法在审
申请号: | 202011210831.3 | 申请日: | 2020-11-03 |
公开(公告)号: | CN112565333A | 公开(公告)日: | 2021-03-26 |
发明(设计)人: | 曹小明;叶思斯;张华兵;黄海英;林志达;衡星辰 | 申请(专利权)人: | 南方电网数字电网研究院有限公司;中国南方电网有限责任公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06;H04L12/26 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 511400 广东省广州市南沙区丰泽东路*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 kafka connect 数据 传递 方法 | ||
1.一种基于kafka-connect的数据传递方法,其特征在于,包括:
生成与源kafka的topic对应的kafka-connector,并通过kafka-connector生成对应的task任务;
task任务监听该源kafka的topic是否有数据变化;
如果确定task任务监听该源kafka的topic有数据变化,则判断源kafka是否与目标kafka联通;
如果源kafka与目标kafka联通,执行推送数据到目标kafka的逻辑,并通过kafka-connector记录对应的推送位置。
2.根据权利要求1所述的方法,其特征在于,该方法还包括:
如果确定源kafka与目标kafka不联通,task任务继续监测对应的目标kafka的联通性。
3.根据权利要求1所述的方法,其特征在于,该方法还包括:
在执行推送数据到目标kafka的逻辑步骤时,当源kafka与目标kafka断开联通,记录推送数据到目标kafka的原推送位置,且在源kafka与目标kafka再次联通时,直接推送数据至原推送位置所对应的目标kafka中。
4.根据权利要求1所述的方法,其特征在于,该方法还包括:
定时去检查kafka-connector的状态,并判断kafka-connector的状态是否正常;
如果确定kafka-connector的状态不正常,对不正常的kafka-connector进行清理,并重新生成新的kafka-connector。
5.根据权利要求1所述的方法,其特征在于,所述判断源kafka是否与目标kafka联通的步骤包括:
判断是否需要发送目标数据;
如果是,则从目标数据中解析出目标kafka的端口和IP地址;
判断目标kafka的端口与IP地址是否联通。
6.根据权利要求5所述的方法,其特征在于,所述判断目标kafka的端口与IP地址是否联通的步骤包括:
解析出目标数据中的附加字节,并将附加字节发送给IP地址,其中目标数据包括用于试探源kafka和目标kafka是否联通的附加字节;
判断是否返回确认指令;
如果返回确认指令,确定该目标kafka的端口和IP地址联通;
如果不返回确认指令,确定该目标kafka的端口和IP地址不联通。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南方电网数字电网研究院有限公司;中国南方电网有限责任公司,未经南方电网数字电网研究院有限公司;中国南方电网有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011210831.3/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置