[发明专利]一种变更数据抽取的方法及装置有效
申请号: | 201710409482.X | 申请日: | 2017-06-02 |
公开(公告)号: | CN107229721B | 公开(公告)日: | 2019-10-29 |
发明(设计)人: | 谢中凯;柳宇刚;牛兴波;马述杰;张佳宁;彭凯 | 申请(专利权)人: | 泰华智慧产业集团股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京晟睿智杰知识产权代理事务所(特殊普通合伙) 11603 | 代理人: | 于淼 |
地址: | 250101 山东省济南市高*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 主键 目标数据库 抽取 源数据库 记录 数据传输 变更数据 增量抽取 数据库 存储 获取目标 技术数据 全量抽取 系统业务 重新获取 状态字段 获取源 影响源 清空 字段 删除 | ||
1.一种变更数据抽取的方法,其特征在于,包括:
获取源数据库的数据的信息,其中,所述数据的信息,包括:时间字段、状态字段和记录主键;
获取所述源数据库的时间,记作全量抽取时间,并将所述全量抽取时间存储于第一数据表中;
结合所述数据的时间字段,对所述源数据库进行全量抽取,获取所述全量抽取时间以前的所有数据,并将抽取的所述数据传输到目标数据库;
结合所述数据的状态字段,获取所述目标数据库中处于变动状态的所述数据的记录主键,并将所述记录主键存储于第二数据表中;
获取所述第一数据表中最后一次更新的抽取时间,并将所述抽取时间作为增量抽取开始时间;
再次获取所述源数据库的时间,记作增量抽取结束时间,并将所述增量抽取结束时间存储于第一数据表中;
结合所述数据的时间字段,对所述源数据库进行增量抽取,获取所述增量抽取开始时间到所述增量抽取结束时间之间的所有数据,并将抽取的所述数据传输到目标数据库;
获取所述第二数据表中的所述记录主键,将所述记录主键对应的所述数据从目标数据库中删除,同时依据所述记录主键从源数据库中重新进行数据的抽取,将抽取的所述数据传输到目标数据库;
清空所述第二数据表中的所述记录主键,结合所述数据的状态字段,重新获取所述目标数据库中处于变动状态的所述数据的记录主键,并将新获取的所述记录主键存储于第二数据表中。
2.根据权利要求1所述的变更数据抽取的方法,其特征在于,将所述全量抽取时间存储于第一数据表中,包括:将所述全量抽取时间生成传递变量;进一步为:
获取所述源数据库的时间,记作全量抽取时间,将所述全量抽取时间转变为具有传递变量特性的所述全量抽取时间,并将所述全量抽取时间存储于第一数据表中。
3.根据权利要求1所述的变更数据抽取的方法,其特征在于,将最后一次更新的所述抽取时间作为增量抽取开始时间,包括:将最后一次更新的所述抽取时间生成传递变量;进一步为:
获取所述第一数据表中最后一次更新的抽取时间,并将最后一次更新的所述抽取时间作为增量抽取开始时间,将所述抽取时间转变为具有传递变量特性的所述增量抽取开始时间。
4.根据权利要求1所述的变更数据抽取的方法,其特征在于,将所述增量抽取结束时间存储于第一数据表中,包括:将所述增量抽取结束时间生成传递变量;进一步为:
再次获取所述源数据库的时间,记作增量抽取结束时间,将所述增量抽取结束时间,转变为具有传递变量特性的所述增量抽取结束时间,并将所述增量抽取结束时间存储于第一数据表中。
5.根据权利要求1所述的变更数据抽取的方法,其特征在于,获取所述第二数据表中的所述记录主键,包括:将所述记录主键依次生成传递变量,进一步为:
获取所述第二数据表中的所述记录主键,将所述记录主键依次生成具有传递变量特性的所述记录主键,将所述记录主键对应的所述数据从目标数据库中删除,同时依据所述记录主键从源数据库中重新进行数据的抽取,将抽取的所述数据传输到目标数据库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于泰华智慧产业集团股份有限公司,未经泰华智慧产业集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710409482.X/1.html,转载请声明来源钻瓜专利网。