[发明专利]分散HADOOP集群在审
申请号: | 201280077564.4 | 申请日: | 2012-12-06 |
公开(公告)号: | CN104838374A | 公开(公告)日: | 2015-08-12 |
发明(设计)人: | 应励志;宋学锋 | 申请(专利权)人: | 英派尔科技开发有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 吕俊刚;刘久亮 |
地址: | 美国特*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分散 hadoop 集群 | ||
1.一种分布式文件系统,该分布式文件系统包括:
多个数据节点,所述多个数据节点各自包括一个或更多个数据块;以及
导向器单元,该导向器单元包括多个主节点,所述多个主节点以对等分布式架构来进行构造并且与所述多个数据节点可操作地联接,所述多个主节点中的每一个主节点被构造为:
接收与针对所述分布式文件系统来管理数据相关的任务;
管理所述任务在所述多个主节点中的一个或更多个主节点当中的分发;以及
向其它多个主节点中的每一个主节点传送任务状态以及所述分布式文件系统的至少一部分的状态。
2.根据权利要求1所述的分布式文件系统,其中,每个主节点被构造为将所述任务划分成多个子任务,并且其中,分发所述任务包括在所述多个主节点中的一个或更多个主节点当中分发所述多个子任务,以及在所述多个数据节点中的所述一个或更多个数据节点执行所述子任务之后,收集所述子任务的结果。
3.根据权利要求1所述的分布式文件系统,所述分布式文件系统还包括与所述导向器单元联接的数据库,所述数据库被构造为将文件的文件元数据存储在所述分布式文件系统中。
4.根据权利要求3所述的分布式文件系统,其中,所述数据库还被构造为存储指示在所述分布式文件系统中将所述文件存储在所述多个数据节点中的哪个数据节点中的系统元数据。
5.根据权利要求1所述的分布式文件系统,其中,所述任务包括向所述分布式文件系统写入第一文件、访问所述分布式文件系统中的第二文件、处理所述分布式文件系统中的数据、改变所述分布式文件系统中的第三文件的名称、删除所述分布式文件系统中的第四文件、或者向所述多个主节点中的另一主节点传送计算任务。
6.根据权利要求1所述的分布式文件系统,其中,当所述任务包括访问文件时,所述多个主节点中的每一个主节点被构造为:
接收包括识别所述文件的文件元数据的任务;
尝试基于所述文件元数据来查找所述文件;
当没有找到所述文件时,将所述任务分发给所述多个主节点中的另一主节点;以及
当找到所述文件时,发送指示所述文件的位置的系统元数据并且发送成功消息。
7.根据权利要求6所述的分布式文件系统,其中,当所述多个主节点中的任何主节点都没有找到所述文件时,所述多个主节点中的每一个主节点还被构造为发送空消息。
8.根据权利要求1所述的分布式文件系统,其中,当所述任务包括写入文件时,所述多个主节点中的每一个主节点被构造为:
接收识别要在所述分布式文件系统中写入的所述文件的文件元数据;
尝试基于所述文件元数据来查找所述文件;
当没有找到所述文件时,将所述文件元数据分发给所述多个主节点中的另一主节点;以及
当所述多个主节点中的任何主节点都没有找到所述文件时,打开写入流程。
9.根据权利要求1所述的分布式文件系统,其中,当所述任务包括计算任务时,从所述多个主节点中选择来自所述多个主节点的第一主节点;以及
所述多个主节点的其它主节点中的每一个其它主节点被构造为:
从所述第一主节点接收所述计算任务;
通过在本地执行所述计算任务来获得主节点特定结果;
确定所述多个主节点中的一部分主节点是否已经接收到所述计算任务;
当所述一部分主节点尚未接收到所述计算任务时,将所述主节点特定结果和所述计算任务发送到所述多个主节点中的第二主节点;以及
当所述一部分主节点已经接收到所述计算任务时,将所述主节点特定结果发送到所述第一主节点。
10.根据权利要求9所述的分布式文件系统,其中,所述多个主节点中的每一个主节点还被构造为:
从所述多个主节点中的其它主节点接收其它主节点特定结果;
将所述主节点特定结果与所述其它主节点特定结果进行组合;
当所述一部分主节点已经接收到所述计算任务时,将所述主节点特定结果与所述其它主节点特定结果的组合发送到所述第二主节点;以及
当所述一部分主节点尚未接收到所述计算任务时,将所述主节点特定结果与所述其它主节点特定结果的组合发送到所述第一主节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英派尔科技开发有限公司,未经英派尔科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201280077564.4/1.html,转载请声明来源钻瓜专利网。