[发明专利]数据采集系统和用于数据采集系统的分析方法有效

专利信息
申请号: 201510732928.3 申请日: 2015-11-02
公开(公告)号: CN105426410B 公开(公告)日: 2018-11-09
发明(设计)人: 井玉成 申请(专利权)人: 东软集团股份有限公司
主分类号: G06F17/30 分类号: G06F17/30;G06F9/46
代理公司: 北京清亦华知识产权代理事务所(普通合伙) 11201 代理人: 张大威
地址: 110168 辽*** 国省代码: 辽宁;21
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 采集 系统 用于 分析 方法
【权利要求书】:

1.一种数据采集系统,其特征在于,包括:

日志分析器,用于监测数据库中重做日志的变更状态,并在所述重做日志产生变更时获取所述数据库的重做日志,生成变更记录信息,并将所述变更记录信息交付至事务合成器;

所述事务合成器,用于获取所述变更记录信息,缓存所述变更记录信息中未提交的事务,在识别到所述变更记录信息中包含事务提交操作时,获取所述事务提交操作并分析所述事务提交操作对应的缓存位置,生成事务消息,并将所述事务消息交付至数据关系分析器;

所述数据关系分析器,用于接收所述事务消息,提取所述事务消息中产生变更记录信息的数据表,并根据所述事务消息获取数据交付器实例与所述数据表组之间的映射关系,根据所述映射关系将所述事务消息分发至对应的数据交付器;

所述数据交付器,用于接收所述数据关系分析器分发的事务消息,并根据交付目标的类型选择对应的交付算法,以执行交付;

所述根据所述事务消息获取数据交付器实例与所述数据表组之间的映射关系,包括:根据规则库中定义的依赖关系对所述事务消息包含的数据表进行分组,以得到数据表组和分组数量;判断所述分组数量是否大于预设数量阈值,并在大于所述预设数量阈值时,对所述数据表组进行合并,以得到合并后的数据表组;获取与所述数据表组,或者,与所述合并后的数据表组对应的数据交付器实例;根据所述数据交付器实例获取所述数据交付器实例与数据表组之间的映射关系。

2.如权利要求1所述的数据采集系统,其特征在于,所述生成变更记录信息,包括:

所述日志分析器根据连接的所述数据库的类型选取对应的重做日志分析算法;

根据所述对应的重做日志分析算法和所述数据库中的变更信息生成变更信息记录。

3.如权利要求2所述的数据采集系统,其特征在于,所述日志分析器还用于记录每次已生成变更信息记录时重做日志的位置,以在所述数据库再一次产生变更时,从前一次记录的所述已生成变更信息记录时重做日志的位置之后获取所述数据库的重做日志,以避免对已生成变更信息记录的重做日志作二次解析。

4.如权利要求3所述的数据采集系统,其特征在于,所述事务合成器还用于在识别到所述变更记录信息中包含事务回滚操作时,清空所述事务回滚操作对应的事务的缓存信息,并丢弃所述事务回滚操作对应的事务。

5.如权利要求4所述的数据采集系统,其特征在于,所述根据规则库中定义的依赖关系对所述事务消息包含的数据表进行分组,包括:

将具有所述依赖关系的数据表划分为一组,其中,所述依赖关系包括:依赖关系a、两个所述事务消息包含同一张数据表的变更记录信息;依赖关系b、两个所述事务消息中所包含的数据表的变更记录信息有主键和外键的依赖关系;依赖关系c、两个事务消息操作的数据表之间存在业务依赖关系。

6.如权利要求5所述的数据采集系统,其特征在于,所述依赖关系a和所述依赖关系b由系统内置程序预先设定,所述依赖关系c由用户进行配置,所述数据关系分析器还用于接收所述用户设置的业务依赖关系,以使所述用户对所述依赖关系c进行配置。

7.如权利要求4所述的数据采集系统,其特征在于,所述对所述数据表组进行合并,以得到合并后的数据表组,包括:

根据所述数据表组中的数据表的变更频率,对所述数据表组进行合并,以得到合并后的数据表组。

8.如权利要求1-7任一项所述的数据采集系统,其特征在于,所述数据采集系统包含一个或多个的所述数据交付器。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201510732928.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top