[发明专利]基于Lucene的HBASE二级索引方法、装置及计算机设备在审
申请号: | 201911348705.1 | 申请日: | 2019-12-24 |
公开(公告)号: | CN111125108A | 公开(公告)日: | 2020-05-08 |
发明(设计)人: | 卢振;乔胜;盛学军;史伟国;廖林伟 | 申请(专利权)人: | 深圳市信联征信有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/28 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 黄文锋 |
地址: | 518000 广东省深圳市南山区粤海街*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 lucene hbase 二级 索引 方法 装置 计算机 设备 | ||
1.一种基于Lucene的HBASE二级索引方法,其特征在于:包括以下步骤,
将从数据源加载的原始数据写入HBase数据库内;
对写入HBase数据库内的原始数据做预定义索引处理,得到索引数据,所述预定义索引处理包括本地索引处理及全局索引处理,本地索引用于对复杂条件查询的解析,全局索引用于最终写入到Lucene搜索引擎中;
将预定义索引处理得到的索引数据写入Lucene搜索引擎内,建立索引数据与HBase表主键RowKey对应的一个HashMap表,即二级索引表;
根据本地索引、全局索引将客户端输入的查询条件解析为对应的二级索引数据,Lucene搜索引擎获取到解析的对应二级索引到Lucene的二级索引表中获取HBase的主键RowKey,如果RowKey存在,就根据二级索引表拿到的RowKey去Hbase中获取对应的原始数据,如果二级索引表中对应的RowKey不存在则结束查询,不去扫描HBase库表中的数据。
2.如权利要求1所述的基于Lucene的HBASE二级索引方法,其特征在于:
在根据二级索引表拿到的RowKey去Hbase中获取对应的原始数据后,将原始数据返回给客户端。
3.如权利要求1所述的基于Lucene的HBASE二级索引方法,其特征在于:所述基于Lucene的HBASE二级索引方法还包括,判断数据表是否有更新,若有,则更新二级索引表。
4.如权利要求3所述的基于Lucene的HBASE二级索引方法,其特征在于:所述更新二级索引表包括,增量更新本地索引、增量更新全局索引、增量更新Lucene索引。
5.一种基于Lucene的HBASE二级索引装置,其特征在于:包括,
数据写入模块,用于将从数据源加载的原始数据写入HBase数据库内;
索引处理模块,用于对写入HBase数据库内的原始数据做预定义索引处理,得到索引数据,所述预定义索引处理包括本地索引处理及全局索引处理,本地索引用于对复杂条件查询的解析,全局索引用于最终写入到Lucene搜索引擎中;
二级索引建立模块,用于将预定义索引处理得到的索引数据写入Lucene搜索引擎内,建立索引数据与HBase表主键RowKey对应的一个HashMap表,即二级索引表;
数据查询模块,用于根据本地索引、全局索引将客户端输入的查询条件解析为对应的二级索引数据,Lucene搜索引擎获取到解析的对应二级索引到Lucene的二级索引表中获取HBase的主键RowKey,如果RowKey存在,就根据二级索引表拿到的RowKey去Hbase中获取对应的原始数据,如果二级索引表中对应的RowKey不存在则结束查询,不去扫描HBase库表中的数据。
6.如权利要求5所述的基于Lucene的HBASE二级索引装置,其特征在于:所述数据查询模块中,在根据二级索引表拿到的RowKey去Hbase中获取对应的原始数据后,将原始数据返回给客户端。
7.如权利要求5所述的基于Lucene的HBASE二级索引装置,其特征在于:还包括二级索引更新模块,用于判断数据表是否有更新,若有,则更新二级索引表。
8.如权利要求7所述的基于Lucene的HBASE二级索引装置,其特征在于:所述二级索引更新模块中,更新二级索引表包括,增量更新本地索引、增量更新全局索引、增量更新Lucene索引。
9.一种计算机设备,其特征在于:所述计算机设备包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至4中任一项所述的基于Lucene的HBASE二级索引方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市信联征信有限公司,未经深圳市信联征信有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911348705.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于无人机的目标跟踪方法及装置
- 下一篇:一种MAC地址的代理应答方法及装置