[发明专利]一种基于Hadoop的数据管理系统及其管理方法在审
申请号: | 201910757780.7 | 申请日: | 2019-08-16 |
公开(公告)号: | CN110457018A | 公开(公告)日: | 2019-11-15 |
发明(设计)人: | 丁瑞;高传集;于昊 | 申请(专利权)人: | 浪潮云信息技术有限公司 |
主分类号: | G06F8/20 | 分类号: | G06F8/20;G06F16/13;G06F16/182;G06F16/11 |
代理公司: | 37100 济南信达专利事务所有限公司 | 代理人: | 李世喆<国际申请>=<国际公布>=<进入 |
地址: | 250100山东省济南市高*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于Hadoop的数据管理系统及其管理方法,包括:前端组件、Hadoop框架、HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具;HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具均搭建在Hadoop框架中;前端组件,用于在接收到用户输入的数据管理操作时,将数据管理操作发送给Oozie组件;Oozie组件,用于在接收到数据管理操作时,调用Hive数据仓库工具确定数据管理操作对应的元数据,并调用Sqoop处理工具,根据数据管理操作对HDFS分布式文件系统中数据管理操作对应的元数据对应的待管理数据进行管理,其中,数据管理操作对应的元数据与待管理数据为映射关系。本方案能够降低数据管理的难度。 | ||
搜索关键词: | 数据管理操作 分布式文件系统 处理工具 数据仓库 元数据 管理数据 前端组件 调用 数据管理系统 数据管理 映射关系 管理 | ||
【主权项】:
1.一种基于Hadoop的数据管理系统,其特征在于,包括:/n前端组件、Hadoop框架、HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具;/n所述HDFS分布式文件系统、Oozie组件、Hive数据仓库工具和Sqoop处理工具均搭建在所述Hadoop框架中;/n所述前端组件,用于在接收到用户输入的数据管理操作时,将所述数据管理操作发送给所述Oozie组件;/n所述Oozie组件,用于在接收到所述数据管理操作时,调用所述Hive数据仓库工具确定所述数据管理操作对应的元数据,并调用所述Sqoop处理工具,根据所述数据管理操作对所述HDFS分布式文件系统中所述数据管理操作对应的元数据对应的待管理数据进行管理,其中,所述数据管理操作对应的元数据与所述待管理数据为映射关系。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮云信息技术有限公司,未经浪潮云信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910757780.7/,转载请声明来源钻瓜专利网。