[发明专利]一种数据库增量日志解析方法及系统在审
申请号: | 201410239631.9 | 申请日: | 2014-05-30 |
公开(公告)号: | CN105205053A | 公开(公告)日: | 2015-12-30 |
发明(设计)人: | 刘杰 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海百一领御专利代理事务所(普通合伙) 31243 | 代理人: | 陈贞健 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据库 增量 日志 解析 方法 系统 | ||
1.一种数据库增量日志解析方法,其特征在于,所述方法包括如下步骤:
从源数据库中获取元数据以及数据库增量日志,并将所述元数据复制到数据库分析模块中;
查询该数据库增量日志中的DDL操作,并将DDL操作串行输入到所述数据库分析模块中执行,所述数据库分析模块根据从所述源数据库中获取的元数据以及执行所述DDL操作对元数据产生的修改生成新元数据;
每执行完一个DDL操作则从所述数据库分析模块中查询与该DDL操作对应的新元数据,根据所述新元数据解析所述数据库增量日志。
2.根据权利要求1所述的解析方法,其特征在于,所述数据库增量日志包括多个列事件,每一个列事件与一个位点对应,所述列事件包括对数据库表的插入操作、更新操作以及删除操作。
3.根据权利要求1所述的解析方法,其特征在于,所述元数据包括数据库名、表名、列的数据类型、列的名称、列长度、列是否为主键以及列是否为唯一索引。
4.根据权利要求2所述的解析方法,其特征在于,根据所述新元数据解析所述数据库增量日志的步骤还包括:
将所述新元数据更新至备份数据库;
查询所述数据库增量日志中列事件对应的新元数据;
根据与所述新元数据解析列事件以解析所述数据库增量日志。
5.根据权利要求4所述的解析方法,其特征在于,所述方法还包括:
在解析发生故障时,根据故障发生前的数据库增量日志中的位点以及所述位点对应的列事件的新元数据进行恢复。
6.一种数据库增量日志解析系统,其特征在于,所述系统:
数据获取模块,用于从源数据库中获取元数据以及数据库增量日志,并将所述元数据复制到数据库分析模块中;
数据库分析模块,用于查询该数据库增量日志中的DDL操作进行串行执行,并根据从所述源数据库中获取的元数据以及执行所述DDL操作对元数据产生的修改生成新元数据;
元数据查询模块,用于每执行完一个DDL操作时从所述数据库分析模块中查询与该DDL操作对应的新元数据;
增量日志解析模块,用于根据所述新元数据解析所述数据库增量日志。
7.根据权利要求1所述的解析系统,其特征在于,所述数据库增量日志包括多个列事件,每一个列事件与一个位点对应,所述列事件包括对数据库表的插入操作、更新操作以及删除操作。
8.根据权利要求1所述的解析系统,其特征在于,所述元数据包括数据库名、表名、列的数据类型、列的名称、列长度、列是否为主键以及列是否为唯一索引。
9.根据权利要求7所述的解析系统,其特征在于,增量日志解析模块还用于将所述新元数据更新至备份数据库;查询所述数据库增量日志中列事件对应的新元数据;根据与所述新元数据解析列事件以解析所述数据库增量日志。
10.根据权利要求9所述的解析系统,其特征在于,所述系统还包括故障恢复模块,用于在解析发生故障时,根据故障发生前的数据库增量日志中的位点以及所述位点对应列事件的新元数据进行恢复。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410239631.9/1.html,转载请声明来源钻瓜专利网。