[发明专利]一种基于HFile的HBase二级索引更新方法及系统有效
申请号: | 201510813149.6 | 申请日: | 2015-11-20 |
公开(公告)号: | CN105404676B | 公开(公告)日: | 2018-08-31 |
发明(设计)人: | 程学旗;陈芳蓉;张敬亮 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;田景宜 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于HFile的HBase二级索引更新方法及系统,该方法包括:解析步骤,监视HBase数据库刷新HFile文件的过程,当针对目标索引列产生了用户操作并生成有HFile文件时,解析该HFile文件并据以更新二级索引表;延迟步骤,在到达HFile文件的compaction操作的启动时间点时,判断该compaction操作所对应的HFile文件是否已经执行该解析该HFile文件的步骤,如果否,延迟该compaction操作的启动时间点,如果是,执行该compaction操作。本发明选择基于HBase文件存储中的HFile这一粒度层次来确定索引更新,不需要大幅度修改HBase源码,不需要维护多余的源表信息,在实现上与用户数据操作异步,不影响用户的时间体验,将索引数据更新维护与源表数据操作解耦。提高了HBase源表数据与二级索引表的同步程度。 | ||
搜索关键词: | 二级索引 解析 源表数据 更新 时间点 延迟 数据库刷新 目标索引 索引更新 索引数据 文件存储 影响用户 用户操作 用户数据 解耦 源表 源码 监视 维护 | ||
【主权项】:
1.一种基于HFile的HBase二级索引更新方法,其特征在于,该方法包括:解析步骤,监视HBase数据库刷新HFile文件的过程,当针对目标索引列产生了用户操作并生成有HFile文件时,解析该HFile文件并据以更新二级索引表;延迟步骤,在到达HFile文件的compaction操作的启动时间点时,判断该compaction操作所对应的HFile文件是否已经执行该解析该HFile文件的步骤,如果否,延迟该compaction操作的启动时间点,如果是,执行该compaction操作;其中compaction操作是指对HFile文件中针对同一行同一列但时间戳不同的数据进行融合;二级索引表中内容为HBase中源数据表的二级索引信息,通过索引搜索功能在二级索引表中得到对应的HBase主键信息,进而定位到目标数据行。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510813149.6/,转载请声明来源钻瓜专利网。