[发明专利]日志数据同步方法、装置、设备及计算机可读存储介质在审
申请号: | 201811522747.8 | 申请日: | 2018-12-12 |
公开(公告)号: | CN109857802A | 公开(公告)日: | 2019-06-07 |
发明(设计)人: | 邓康华 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国;魏兰 |
地址: | 518052 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种日志数据同步方法,包括:在日志数据的同步过程中,每采集到一条日志数据,则获取所述日志数据的GTID,并生成所述日志数据的AID;将所述日志数据、所述GTID和所述AID同步写入至缓存数据库Redis和分布式发布订阅消息系统Kafka;当监测到日志数据的当前采集节点出现异常时,确定日志数据的目标采集节点,并从所述Redis中获取采集时间距离当前时间点最近的日志数据的目标GTID和目标AID;通过所述目标采集节点,基于所述目标GTID和所述目标AID继续采集日志数据。本发明还公开了一种日志数据同步装置、设备及计算机可读存储介质。本发明能够保证日志数据的连续性。 | ||
搜索关键词: | 日志数据 采集节点 计算机可读存储介质 采集 分布式发布 缓存数据库 订阅消息 时间距离 同步过程 同步装置 时间点 写入 监测 保证 | ||
【主权项】:
1.一种日志数据同步方法,其特征在于,所述日志数据同步方法包括以下步骤:在日志数据的同步过程中,每采集到一条日志数据,则获取所述日志数据的全局事务标识符GTID,并生成所述日志数据的原子标识符AID;将所述日志数据、所述GTID和所述AID同步写入至缓存数据库Redis和分布式发布订阅消息系统Kafka;当监测到日志数据的当前采集节点出现异常时,确定日志数据的目标采集节点,并从所述Redis中获取采集时间距离当前时间点最近的日志数据的目标GTID和目标AID;通过所述目标采集节点,基于所述目标GTID和所述目标AID继续采集日志数据。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811522747.8/,转载请声明来源钻瓜专利网。