[发明专利]MapReduce系统中的任务分配方法、系统及装置有效
申请号: | 201010178143.3 | 申请日: | 2010-05-17 |
公开(公告)号: | CN102255926A | 公开(公告)日: | 2011-11-23 |
发明(设计)人: | 孙宏伟;郭磊涛;罗治国;孙少陵;黄晓庆 | 申请(专利权)人: | 中国移动通信集团公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06;G06F9/50;G06F17/30 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 郭润湘 |
地址: | 100032 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种MapReduce系统中任务分配的方法、系统及装置,用以解决现有技术中客户端可能出现由于内存溢出而宕机的故障,从而影响MR系统可靠性的问题。该方法在原有MR系统中增加对各个客户端进行管理的客户端管理节点,客户端管理节点根据各客户端的资源利用信息,确定进行数据分片处理的客户端,并指示该确定的客户端进行对待处理的数据进行数据分片处理。由于在本发明实施例中客户端管理节点根据各客户端的资源利用信息,确定进行数据分片处理的客户端,从而可以减小资源利用信息不满足条件的客户端进行业务处理的风险,并减小该客户端出现宕机的可能性,进而提高了MR系统的可靠性。 | ||
搜索关键词: | mapreduce 系统 中的 任务 分配 方法 装置 | ||
【主权项】:
一种映射化简MapReduce系统中的任务分配方法,其特征在于,包括:客户端管理节点接收数据分片任务;所述客户端管理节点根据各客户端的资源利用信息,确定进行数据分片处理的客户端;所述客户端管理节点将所述数据分片任务中的待处理数据分配给确定的所述客户端。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团公司,未经中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201010178143.3/,转载请声明来源钻瓜专利网。