[发明专利]一种基于全量分片和增量日志解析的数据交换方法及系统有效
申请号: | 202010176947.3 | 申请日: | 2020-03-13 |
公开(公告)号: | CN111339103B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 王小玄;范浩哲;王小阳;雷俊鸽;林军军 | 申请(专利权)人: | 河南安冉云网络科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/215 |
代理公司: | 郑州龙宇专利代理事务所(特殊普通合伙) 41146 | 代理人: | 刘杰 |
地址: | 450000 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及计算机网络技术领域,公开了一种基于全量分片和增量日志解析的数据交换方法,包括:步骤1、根据数据库表主键进行数据分片,将分片后的信息存入消息队列,以得到全量分片信息;步骤2.根据预设的作业映射关系,依据消息队列中的全量分片信息,分批从数据库中获取数据并写入目标端;步骤3.根据全量记录的写入时间点进行实时的数据库增量日志解析并实时保存增量数据到消息队列;步骤4:上次增量数据写入时记录的位置点从消息队列中获取对应的增量数据写入目标端。源表结构不需要修改即可实现数据的分批以及增量获取,避免了线上业务暂停或服务宕机,在保证源数据的自身格式的同时,还能够实时的将源数据发送到目的端,提供及时的数据服务。 | ||
搜索关键词: | 一种 基于 分片 增量 日志 解析 数据 交换 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河南安冉云网络科技有限公司,未经河南安冉云网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010176947.3/,转载请声明来源钻瓜专利网。