[发明专利]一种元数据管理方法和装置在审
申请号: | 201710331521.9 | 申请日: | 2017-05-11 |
公开(公告)号: | CN108241724A | 公开(公告)日: | 2018-07-03 |
发明(设计)人: | 吴宏志 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 表结构 元数据 删除 操作指令 方法和装置 元数据管理 存储 预先建立 自动采集 二维表 遍历 解析 架构 检测 记录 申请 | ||
本申请提供一种元数据管理方法和装置,该方法应用于HBase架构中的Master节点设备,该方法为:当检测到针对HBase表的操作指令时,解析并判断该操作指令是否对HBase表的表结构发生更改;更改包括增加表、删除表、增加列族、删除列族、增加列和删除列中的至少一种;在确定该操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中;更改的表结构元数据包括增加或删除的表名、列族名和列名。该方法实现了对表结构这类HBase元数据的自动采集和存储,用户基于存储的这类元数据可以快速获得HBase表的表结构,无需再去遍历HBase表的全部记录。
技术领域
本申请涉及数据库技术领域,尤其涉及一种元数据管理方法和装置。
背景技术
Hadoop数据库(Hadoop Database,Hbase)是一种列式存储的分布式、可伸缩的非关系型(NoSQL,Not Only SQL)数据库,它构建在Hadoop基础设施上。和传统的关系型数据库一样,HBase的表(Table)是由行和列组成的,但HBase同一列可以存储不同时刻的值,同时多个列可以组成一个列族(Column Family)。所以HBase所定义的数据模型与传统关系型数据库的数据模型(行与列构成的二维模型)有比较大的差异,它实际上定义了一个四维的数据模型。
元数据(Meta Data)是关于数据的数据,在数据库系统中,元数据是描述数据库内数据的结构和建立方法的数据,有助于数据库管理员和数据库的开发人员方便地找到他们所关心的数据。
目前HBase仅能管理部分元数据,这在一定程度上限制了HBase的使用和基于HBase的应用开发。
发明内容
有鉴于此,本申请提供一种元数据管理方法和装置,用以实现对HBase表的表结构元数据的采集和存储,增强HBase的可用性。
具体地,本申请是通过如下技术方案实现的:
本申请第一方面,提供了一种元数据管理方法,所述方法应用于HBase架构中的主Master节点设备,所述方法包括:
当检测到针对HBase表的操作指令时,解析所述操作指令,并判断所述操作指令是否对HBase表的表结构发生更改;所述更改包括增加表、删除表、增加列族、删除列族、增加列和删除列中的至少一种;
在确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中;所述更改的表结构元数据包括增加或删除的表名、列族名和列名。
本申请第二方面,提供了一种元数据管理装置,应用于HBase架构中的主Master节点设备,具有实现上述方法的功能。所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块或单元。
一种可能的实现方式中,所述装置包括:
指令解析单元,用于在检测到针对HBase表的操作指令时,解析所述操作指令,并判断所述操作指令是否对HBase表的表结构发生更改;所述更改包括增加表、删除表、增加列族、删除列族、增加列和删除列中的至少一种;
元数据采集单元,用于在所述指令解析单元确定所述操作指令对HBase表的表结构发生更改时,将所述操作指令涉及的HBase表的表结构元数据同步到预先建立的二维表中;所述更改的表结构元数据包括增加或删除的表名、列族名和列名。
另一种可能的实现中,所述装置可以包括处理器、存储器和总线,所述处理器和所述存储器之间通过总线系统相互连接;所述处理器通过读取所述存储器中存储的逻辑指令,执行本申请第一方面所示的元数据管理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710331521.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种应用导向的企业数据资源聚合方法
- 下一篇:一种数据热度统计系统和方法