[发明专利]一种数据查询方法和服务器有效
申请号: | 201711235855.2 | 申请日: | 2017-11-30 |
公开(公告)号: | CN109101516B | 公开(公告)日: | 2019-09-17 |
发明(设计)人: | 丁远普;李日光 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F16/242 | 分类号: | G06F16/242;G06F16/22;G06F16/27 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 查询指令 表标识 元数据 连接器 行数据 存储器 数据查询 查询器 索引表 行键 服务器 查询性能 携带 返回 申请 并发 扫描 发送 | ||
1.一种数据查询方法,其特征在于,所述方法包括:
查询器向连接器发送SparkSQL查询指令;所述SparkSQL查询指令携带HBase表的表标识、所述HBase表的元数据、与所述元数据对应的属性值;
所述连接器在接收到SparkSQL查询指令后,若存储器存在所述表标识、所述元数据对应的索引表,则生成第一Phoenix查询指令,并发送给所述存储器;所述第一Phoenix查询指令携带所述表标识、所述元数据、所述属性值;
所述存储器在接收到第一Phoenix查询指令后,从所述表标识、所述元数据对应的索引表中,获取所述属性值对应的行键,从所述表标识对应的HBase表中,获取所述行键对应的行数据,将所述行数据返回给所述连接器;其中,索引表用于记录HBase表的元数据的属性值、HBase表的行键的对应关系;
所述连接器在接收到所述行数据后,将所述行数据返回给所述查询器;
其中,存储器用于采用Phoenix实现数据的存储,查询器用于采用SparkSQL实现数据的查询,连接器用于实现Phoenix指令与SparkSQL指令的转换。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述查询器向所述连接器发送SparkSQL创建指令;其中,所述SparkSQL创建指令携带HBase表的表标识、所述HBase表的元数据;
所述连接器在接收到SparkSQL创建指令后,生成Phoenix创建指令,并发送给所述存储器;所述Phoenix创建指令携带所述表标识、所述元数据;
所述存储器接收到Phoenix创建指令后,从所述表标识对应的HBase表中,获取所述元数据对应的属性值、所述属性值对应的行键,创建所述表标识、所述元数据对应的索引表,在索引表中记录所述属性值与所述行键的对应关系。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
查询器向连接器发送SparkSQL存储指令,SparkSQL存储指令携带HBase表的表标识、HBase表的至少一个元数据、每个元数据对应的属性值、行键;
所述连接器在接收到SparkSQL存储指令后,针对每个元数据执行如下操作:若所述存储器存在所述表标识、所述元数据对应的索引表,则生成第一Phoenix存储指令,并发送给所述存储器,所述第一Phoenix存储指令携带所述表标识、所述元数据、所述元数据对应的属性值、所述属性值对应的行键;
所述存储器在接收到第一Phoenix存储指令后,在所述表标识、所述元数据对应的索引表中,记录所述属性值与所述行键的对应关系。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
所述连接器在接收到所述SparkSQL存储指令后,生成第二Phoenix存储指令,并发送给所述存储器;所述第二Phoenix存储指令携带所述表标识、所述至少一个元数据、所述每个元数据对应的属性值、所述行键;
所述存储器在接收到第二Phoenix存储指令后,在所述表标识对应的HBase表中,记录所述行键与每个元数据对应的属性值的对应关系。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述查询器向所述连接器发送SparkSQL删除指令;
所述连接器在接收到SparkSQL删除指令后,根据所述SparkSQL删除指令生成Phoenix删除指令,并发送给所述存储器;
所述存储器在接收到Phoenix删除指令后,若所述Phoenix删除指令携带HBase表的表标识、HBase表的元数据,则删除所述表标识、所述元数据对应的索引表;若所述Phoenix删除指令携带HBase表的表标识、HBase表的元数据、所述元数据对应的属性值,则从所述表标识、所述元数据对应的索引表中删除所述属性值对应的行数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711235855.2/1.html,转载请声明来源钻瓜专利网。