[发明专利]一种基于MySQL的流式实时数据同步系统在审
申请号: | 201910559607.6 | 申请日: | 2019-06-26 |
公开(公告)号: | CN110275927A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 王传德;杨胜华;姚民伟 | 申请(专利权)人: | 浪潮卓数大数据产业发展有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/25 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 孙晶伟 |
地址: | 214029 江苏省无锡市滨*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种基于MySQL的流式实时数据同步系统,涉及数据通信技术领域;Mysql利用binlog实时记录数据更新,Maxwell工具解析MySQL binlog的实时数据,同步实时数据到Kafka中,Kafka利用KafkaConntor将实时数据同步到ElasticSearch中,Elasticsearch对实时数据进行数据分析和监控;本发明系统通过MySQL的Binlog实时同步数据变化,避免对数据库的侵入操作,通过引入Kafka,解耦并提高了系统扩展性,使大并发成为可能,通过elasticsearch,可以实时的实现数据分析,监控,告警等功能。 | ||
搜索关键词: | 实时数据 数据分析 同步系统 流式 数据通信技术 系统扩展性 实时记录 实时同步 数据变化 数据更新 告警 监控 解耦 解析 并发 数据库 侵入 引入 | ||
【主权项】:
1.一种基于MySQL的流式实时数据同步系统,其特征是包括Mysql、Maxwell工具、Kafka及Elasticsearch,Mysql利用binlog实时记录数据更新,Maxwell工具解析MySQL binlog的实时数据,同步实时数据到Kafka中,Kafka利用KafkaConntor将实时数据同步到ElasticSearch中,Elasticsearch对实时数据进行数据分析和监控。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮卓数大数据产业发展有限公司,未经浪潮卓数大数据产业发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910559607.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种云计算动态数据整合和调度的方法
- 下一篇:迭代式实体关系抽取方法