[发明专利]一种数据仓库的数据同步的方法和装置在审
申请号: | 201710574516.0 | 申请日: | 2017-07-14 |
公开(公告)号: | CN110019539A | 公开(公告)日: | 2019-07-16 |
发明(设计)人: | 韩飞;张侃;刘彦伟;曾光耀 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/27 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 元数据信息 数据仓库 数据同步 用户数据 表结构 方法和装置 元数据 变更 计算机技术领域 技术效果 同步数据 不一致 获取源 同步的 易用性 自适应 场景 灵活 | ||
本发明公开了一种数据仓库的数据同步的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取源端和目标端的元数据信息,元数据信息中包括表结构;判断源端的元数据信息与目标端的元数据信息是否一致,若不一致,变更目标端的表结构使其与源端的表结构相同;对目标端的用户数据进行同步,使其与源端的用户数据一致。该实施方式克服了现有技术中的数据仓库在同步数据时灵活性差,不能适应元数据变更的场景的技术问题,进而达到自适应的处理元数据变更及对用户数据信进行灵活同步的技术效果,有利于提高数据同步的易用性。
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据仓库的数据同步的方法和装置。
背景技术
数据仓库(Data Warehouse,DW或DWH)是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。目前,数据仓库作为处理和运行大数据的平台,涉及大量的文件存储及数据计算。
元数据(Metadata),又称中介数据、中继数据,为描述数据的数据(data aboutdata),主要是描述数据属性(propert6)的信息,用来支持如指示存储位置、历史数据、资源查找、文件记录等功能。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
数据仓库之间在同步数据时灵活性差,不能很好的适应元数据变更的场景。
发明内容
有鉴于此,本发明实施例提供一种数据仓库的数据同步的方法和装置,能够解决现有技术中的数据仓库在同步数据时灵活性差,不能适应元数据变更的场景。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据仓库的数据同步的方法。
本发明实施例的一种数据仓库的数据同步的方法包括:获取源端和目标端的元数据信息,元数据信息中包括表结构;判断源端的元数据信息与目标端的元数据信息是否一致,若不一致,变更目标端的表结构使其与源端的表结构相同;对目标端的用户数据进行同步,使其与源端的用户数据一致。
可选的,本发明的实施例在获取源端和目标端的元数据信息之前,还包括:保存与数据仓库相应的信息配置,信息配置用于解析服务地址以及获取元数据信息;保存与数据同步相应的参数配置,参数配置用于变更表结构。
可选的,本发明实施例的信息配置包括服务目录的名称、主备节点的域名信息以及对应的端口信息。
可选的,本发明实施例的参数配置包括同时拷贝的最大文件数目、是否覆盖目标文件、是否跳过文件校验以及带宽最大值。
可选的,本发明的实施例变更目标端的表结构使其与源端的表结构相同的步骤包括:将目标端的表结构删除;根据保存的配置参数在目标端创建与源端相同的表结构。
可选的,本发明的实施例变更目标端的表结构使其与源端的表结构相同的步骤包括:将目标端的表结构与源端的表结构进行一一对比,以确定出目标端中与源端存在差异的表结构;将目标端中存在差异的表结构更新为与源端相同的表结构。
为实现上述目的,根据本发明实施例的另一方面,提供了一种数据仓库的数据同步的装置。
本发明实施例的一种数据仓库的数据同步的装置包括:获取模块,用于获取源端和目标端的元数据信息,元数据信息中包括表结构;变更模块,用于判断源端的元数据信息与目标端的元数据信息是否一致,若不一致,变更目标端的表结构使其与源端的表结构相同;同步模块,用于对目标端的用户数据进行同步,使其与源端的用户数据一致。
可选的,本发明的实施例还包括保存模块,用于:保存与数据仓库相应的信息配置,信息配置用于解析服务地址以及获取元数据信息;保存与数据同步相应的参数配置,参数配置用于变更表结构。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710574516.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据表切换方法及装置
- 下一篇:企业图谱的实现方法、展示方法及装置、设备