[发明专利]数据库增量数据同步备份方法及系统在审
申请号: | 201910559760.9 | 申请日: | 2019-06-27 |
公开(公告)号: | CN111367994A | 公开(公告)日: | 2020-07-03 |
发明(设计)人: | 闫卫杰;张怀珠;余徐勇 | 申请(专利权)人: | 北京关键科技股份有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/28;G06F11/14 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 102208 北京市昌平区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据库 增量 数据 同步 备份 方法 系统 | ||
1.一种数据库增量数据同步备份方法,其特征在于,所述方法包括:
步骤1)将关系型数据库保存的数据按照时间顺序分各个时间段分别导出对应的各个数据文件;
步骤2)确定各个时间段中出现数据内容增量的时间段以作为目标时间段,将所述目标时间段对应的数据文件上传到同步系统中;
步骤3)使用同步系统读取所述上传的数据文件的数据,对数据文件执行数据重复性校验和数据规范性校验,将通过校验的数据作为增量数据导入到目标数据库中,完成所述关系型数据库的增量数据到所述目标数据库的同步备份;
其中,导出的数据文件为JSON结构的文件,导出的数据文件中的数据被封装成key-value结构的形式储存在JSON结构的文件中,在key-value结构中,key是对应目标数据库中的字段,而value则对应目标数据库中字段的值。
2.如权利要求1所述的数据库增量数据同步备份方法,其特征在于:
步骤2)还包括,在同步系统接收到上传的数据文件后,检测上传的数据文件的命名格式是否符合同步系统上传文件的格式要求,符合,则执行步骤3),不符合,则同步备份结束。
3.如权利要求2所述的数据库增量数据同步备份方法,其特征在于:
在步骤3)中,对数据文件执行数据重复性校验包括:根据数据文件的ID查询云代码知识库中是否已经包含所述ID的数据记录,如果包含,则不对数据文件进行基于云代码知识库的数据读取,并记录所述ID作为忽略跳过数据的唯一标识以便于后续需要再次同步备份数据时基于所述ID再次执行增量数据同步备份操作,如果不包含,则重复性校验通过。
4.如权利要求3所述的数据库增量数据同步备份方法,其特征在于:
在步骤3)中,对数据文件执行数据规范性校验包括:将云代码知识库的字段与JSON结构的文件的key一一对应校验,如果在云代码知识库中与key对应的字段的value缺失,则认为校验失败,排除云代码知识库中与key对应的字段,否则,认为数据规范性校验通过。
5.如权利要求4所述的数据库增量数据同步备份方法,其特征在于:
在步骤3)中,当出现value缺失或同步系统异常时,使用Spring企业级开源框架进行云代码知识库的控制以实现异常数据回滚和正常数据提交操作。
6.一种数据库增量数据同步备份装置,其特征在于,所述装置包括:
文件导出模块,用于将关系型数据库保存的数据按照时间顺序分各个时间段分别导出对应的各个数据文件;
文件上传模块,用于确定各个时间段中出现数据内容增量的时间段以作为目标时间段,将所述目标时间段对应的数据文件上传到同步系统中;
同步备份模块,用于使用同步系统读取所述上传的数据文件的数据,对数据文件执行数据重复性校验和数据规范性校验,将通过校验的数据作为增量数据导入到目标数据库中,完成所述关系型数据库的增量数据到所述目标数据库的同步备份;
其中,导出的数据文件为JSON结构的文件,导出的数据文件中的数据被封装成key-value结构的形式储存在JSON结构的文件中,在key-value结构中,key是对应目标数据库中的字段,而value则对应目标数据库中字段的值。
7.如权利要求6所述的数据库增量数据同步备份装置,其特征在于:
在所述文件上传模块中,在同步系统接收到上传的数据文件后,还用于检测上传的数据文件的命名格式是否符合同步系统上传文件的格式要求,符合,则启动所述同步备份模块的同步备份操作,不符合,则同步备份结束。
8.如权利要求7所述的数据库增量数据同步备份装置,其特征在于:
在所述同步备份模块中,对数据文件执行数据重复性校验包括:根据数据文件的ID查询云代码知识库中是否已经包含所述ID的数据记录,如果包含,则不对数据文件进行基于云代码知识库的数据读取,并记录所述ID作为忽略跳过数据的唯一标识以便于后续需要再次同步备份数据时基于所述ID再次执行增量数据同步备份操作,如果不包含,则重复性校验通过。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京关键科技股份有限公司,未经北京关键科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910559760.9/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置