[发明专利]一种元数据管理方法和装置在审
申请号: | 201710331521.9 | 申请日: | 2017-05-11 |
公开(公告)号: | CN108241724A | 公开(公告)日: | 2018-07-03 |
发明(设计)人: | 吴宏志 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 表结构 元数据 删除 操作指令 方法和装置 元数据管理 存储 预先建立 自动采集 二维表 遍历 解析 架构 检测 记录 申请 | ||
1.一种元数据管理方法,其特征在于,所述方法应用于HBase架构中的主Master节点设备,所述方法包括:
当检测到针对HBase表的操作指令时,解析所述操作指令,并判断所述操作指令是否对HBase表的表结构发生更改;所述更改包括增加表、删除表、增加列族、删除列族、增加列和删除列中的至少一种;
在确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中;所述更改的表结构元数据包括增加或删除的表名、列族名和列名。
2.如权利要求1所述的方法,其特征在于,在所述操作指令满足以下至少一个条件时,确定所述操作指令对HBase表的表结构发生更改:
所述操作指令包含Drop语句;
所述操作指令包含Alter语句;
所述操作指令包含Put语句,且所述Put语句用于增加新的表、新的列族或新的列。
3.如权利要求2所述的方法,其特征在于,所述二维表位于关系型数据库或文本文件中,所述二维表包括以下字段:表名、列族名和列名。
4.如权利要求3所述的方法,其特征在于,所述在确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中,包括:
如果所述操作指令包含Drop语句,则从所述二维表中删除一条或多条记录,所述一条或多条记录包含所述Drop语句指示删除的表的表名。
5.如权利要求3所述的方法,其特征在于,所述在确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中,包括:
如果所述操作指令包含Alter语句,则从所述二维表中删除一条或多条记录,所述一条或多条记录包含所述Alter语句指示删除的列族的列族名以及该列族所属表的表名。
6.如权利要求3所述的方法,其特征在于,所述在确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中,包括:
如果所述操作指令包含Put语句且所述Put语句用于增加新的表,则在所述二维表中增加一条记录,该记录包含所述Put语句指示增加的表的表名;
如果所述操作指令包含Put语句且所述Put语句用于增加新的列族,则在所述二维表中增加一条记录,该记录包含所述Put语句指示增加的列族的列族名以及该列族所属表的表名;
如果所述操作指令包含Put语句且所述Put语句用于增加新的列,则在所述二维表中增加一条记录,该记录包含所述Put语句指示增加的列的列名、该列所属列族的列族名以及该列所属表的表名。
7.如权利要求3所述的方法,其特征在于,所述二维表还包括以下至少一个字段:表的业务描述、列族的业务描述、列的业务描述、表的创建时间、列族的创建时间和列的创建时间。
8.一种元数据管理装置,其特征在于,所述装置应用于HBase架构中的主Master节点设备,所述装置包括:
指令解析单元,用于在检测到针对HBase表的操作指令时,解析所述操作指令,并判断所述操作指令是否对HBase表的表结构发生更改;所述更改包括增加表、删除表、增加列族、删除列族、增加列和删除列中的至少一种;
元数据采集单元,用于在所述指令解析单元确定所述操作指令对HBase表的表结构发生更改时,将更改的表结构元数据同步到预先建立的二维表中;所述更改的表结构元数据包括增加或删除的表名、列族名和列名。
9.如权利要求8所述的装置,其特征在于,所述指令解析单元在确定所述操作指令满足以下至少一个条件时,确定所述操作指令对HBase表的表结构发生更改:
所述操作指令包含Drop语句;
所述操作指令包含Alter语句;
所述操作指令包含Put语句,且该Put语句用于增加新的表、新的列族或新的列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710331521.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种应用导向的企业数据资源聚合方法
- 下一篇:一种数据热度统计系统和方法