[发明专利]一种基于Hbase的节省网络流量的MR运行方法在审
申请号: | 201610628407.8 | 申请日: | 2016-08-03 |
公开(公告)号: | CN106302662A | 公开(公告)日: | 2017-01-04 |
发明(设计)人: | 赵明超;牛硕;臧勇真 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L12/801 |
代理公司: | 济南信达专利事务所有限公司37100 | 代理人: | 杜鹃花 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Hbase的节省网络流量的MR运行方法,属于,本发明来解决网络开销大,集权有网络瘫痪的风险的问题,采用的技术方案为:步骤如下:(1)、实现Mapreduce的InputFormat方法;(2)、获取Hbase某张表的所有大的数据块信息;(3)、根据每个数据块,获取他们的底层文件;(4)、将获取到的所有数据块的底层文件作为Mapreduce的输入;以每个底层文件为计算单元,执行mapreduce;(5)、执行reduce,结束mapreduce。 | ||
搜索关键词: | 一种 基于 hbase 节省 网络流量 mr 运行 方法 | ||
【主权项】:
一种基于Hbase的节省网络流量的MR运行方法,其特征在于步骤如下:(1)、实现Mapreduce的InputFormat方法;(2)、获取Hbase某张表的所有大的数据块信息;(3)、根据每个数据块,获取他们的底层文件;(4)、将获取到的所有数据块的底层文件作为Mapreduce的输入;以每个底层文件为计算单元,执行mapreduce;(5)、执行reduce,结束mapreduce。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610628407.8/,转载请声明来源钻瓜专利网。