[发明专利]一种实现实时增量同步数据的方法及装置有效
| 申请号： | 201410321182.2 | 申请日： | 2014-07-07 |
| 公开（公告）号： | CN105243067B | 公开（公告）日： | 2019-06-28 |
| 发明（设计）人： | 杨威;白军伟;王啸风;冯是聪 | 申请（专利权）人： | 北京明略软件系统有限公司 |
| 主分类号： | G06F16/23 | 分类号： | G06F16/23;G06F16/28 |
| 代理公司： | 北京安信方达知识产权代理有限公司 11262 | 代理人： | 李红爽;栗若木 |
| 地址： | 100193 北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种实现实时增量同步数据的方法及装置，其中该实时增量同步数据的方法包括：根据关系型数据库的表结构信息，在分布式的、面向列的开源数据库HBase中生成与所述关系型数据库相对应的映射关系文件；实时获取所述关系型数据库的操作日志；根据获得的操作日志，获取所述关系型数据库的变更数据，根据建立的所述映射关系文件，将获得的变更数据更新至Hadoop的HBase中。实现了数据由关系型数据库到Hadoop的实时增量更新同步，不仅有效减轻了Hadoop平台的负担，同时也增加了用户体验。 | ||
| 搜索关键词： | 一种 实现 实时 增量 同步 数据 方法 装置 | ||
【主权项】：
1.一种实现实时增量同步数据的方法，应用于关系型数据库到分布式系统架构Hadoop的数据导入，包括：根据关系型数据库的表结构信息，在面向列的开源数据库HBase中生成与所述关系型数据库相对应的映射关系文件；实时获取所述关系型数据库的操作日志；根据获得的操作日志，获取所述关系型数据库的变更数据，根据建立的所述映射关系文件，将获得的变更数据更新至Hadoop的HBase中；其中，所述获取所述关系型数据库的操作日志包括：接收身份标识对应的关系型数据库的操作日志的变更数据，并将接收到的变更数据按顺序存储在一个消息队列中；或者，当未接收到获取变更数据请求以及消息队列中的变更数据超过阈值时，则将所述消息队列中的变更数据按顺序存储到对应目录文件中。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司，未经北京明略软件系统有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201410321182.2/，转载请声明来源钻瓜专利网。
- 上一篇：手动裁纸机构
- 下一篇：一种光响应的微流体自驱动微流控芯片及其制备方法
