[发明专利]一种基于Hadoop的数据管理系统及其管理方法在审

专利信息
申请号: 201910757780.7 申请日: 2019-08-16
公开(公告)号: CN110457018A 公开(公告)日: 2019-11-15
发明(设计)人: 丁瑞;高传集;于昊 申请(专利权)人: 浪潮云信息技术有限公司
主分类号: G06F8/20 分类号: G06F8/20;G06F16/13;G06F16/182;G06F16/11
代理公司: 37100 济南信达专利事务所有限公司 代理人: 李世喆<国际申请>=<国际公布>=<进入
地址: 250100山东省济南市高*** 国省代码: 山东;37
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据管理操作 分布式文件系统 处理工具 数据仓库 元数据 管理数据 前端组件 调用 数据管理系统 数据管理 映射关系 管理
【权利要求书】:

1.一种基于Hadoop的数据管理系统,其特征在于,包括:

前端组件、Hadoop框架、HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具;

所述HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具均搭建在所述Hadoop框架中;

所述前端组件,用于在接收到用户输入的数据管理操作时,将所述数据管理操作发送给所述Oozie组件;

所述Oozie组件,用于在接收到所述数据管理操作时,调用所述Hive数据仓库工具确定所述数据管理操作对应的元数据,并调用所述Sqoop处理工具,根据所述数据管理操作对所述HDFS分布式文件系统中所述数据管理操作对应的元数据对应的待管理数据进行管理,其中,所述数据管理操作对应的元数据与所述待管理数据为映射关系。

2.根据权利要求1所述的基于Hadoop的数据管理系统,其特征在于,

所述前端组件,进一步用于在接收到所述用户输入的用于请求待查询数据的数据请求命令时,将所述数据请求命令发送给所述Oozie组件;

所述Oozie组件,进一步用于在接收到所述数据请求命令时,调用所述Hive数据仓库工具确定是否存在所述数据请求命令对应的元数据,当确定存在所述数据请求命令对应的元数据时,调用所述Hive数据仓库工具从所述HDFS分布式文件系统中读取与所述数据请求命令对应的元数据相对应的待查询数据,并将所述待查询数据发送给所述前端组件,其中,所述数据请求命令对应的元数据与所述待查询数据为映射关系;

所述前端组件,用于在接收到所述待查询数据时,展示所述待查询数据。

3.根据权利要求1所述的基于Hadoop的数据管理系统,其特征在于,

所述前端组件,进一步用于在接收到用户输入的用于验证身份的用户注册信息时,将所述用户注册信息发送给所述Oozie组件;

所述Oozie组件,进一步用于在接收到所述用户注册信息时,调用所述Hive数据仓库工具,确定是否存在与所述用户注册信息对应的元数据,当不存在与所述用户注册信息对应的元数据时,向所述前端组件发送提示信息,以使所述前端组件展示所述提示信息,其中,所述提示信息指示所述用户无访问所述HDFS分布式文件系统的权限,所述用户注册信息对应的元数据与所述HDFS分布式文件系统中对应的目标注册信息为映射关系。

4.根据权利要求1所述的基于Hadoop的数据管理系统,其特征在于,进一步包括:Nginx服务器;

所述前端组件,进一步用于在接收到用户交互指令时,将所述交互指令发送给所述Nginx服务,其中,所述交互指令,包括:所述数据管理操作;

所述Nginx服务器,用于在接收到所述交互指令时,将所述交互指令发送给所述Oozie组件。

5.根据权利要求1至4中任一所述的基于Hadoop的数据管理系统,其特征在于,

所述Oozie组件,进一步用于记录所述Hive数据仓库工具和所述HDFS分布式文件系统的工作流信息。

6.一种基于Hadoop的数据管理系统的管理方法,其特征在于,包括:

将HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具均搭建在Hadoop框架中;

通过所述前端组件,在接收到用户输入的数据管理操作时,将所述数据管理操作发送给所述Oozie组件;

通过所述Oozie组件,在接收到所述数据管理操作时,调用所述Hive数据仓库工具确定所述数据管理操作对应的元数据;

通过所述Oozie组件,调用所述Sqoop处理工具,根据所述数据管理操作对所述HDFS分布式文件系统中所述数据管理操作对应的元数据对应的待管理数据进行管理,其中,所述数据管理操作对应的元数据与所述待管理数据为映射关系。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮云信息技术有限公司,未经浪潮云信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910757780.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top