[发明专利]一种于Hadoop平台中动态调整任务数目的方法及系统有效
申请号: | 201310700010.1 | 申请日: | 2013-12-18 |
公开(公告)号: | CN103699433B | 公开(公告)日: | 2017-07-14 |
发明(设计)人: | 康凯;赵霞;宋莹;孙毓忠 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F9/46 | 分类号: | G06F9/46;G06F9/50 |
代理公司: | 北京律诚同业知识产权代理有限公司11006 | 代理人: | 祁建国,田景宜 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种于Hadoop平台中动态调整任务数目的方法及系统,包括步骤10,持续获取节点中运行的任务的执行速率;步骤20,计算执行速率在下降的任务的个数;步骤30,根据该个数判断是否需要调整节点中所运行的任务的数目。本发明自动的调整节点上运行的任务数目,以使Hadoop平台体现出较高的任务执行效率。使用感知节点的计算能力、任务执行状态实现动态调整Slots数目,有效的感知了集群和作业的异构性。实现集群运行任何异构性的作业或者作业运行在任何异构性的集群中都能使Hadoop平台体现出良好的性能。 | ||
搜索关键词: | 一种 hadoop 平台 动态 调整 任务 目的 方法 系统 | ||
【主权项】:
一种于Hadoop平台中动态调整任务数目的方法,其特征在于,包括:步骤10,持续获取节点中运行的每个任务的执行速率;步骤20,计算执行速率在下降的任务的个数;步骤30,根据该个数判断是否需要调整节点中所运行的任务的数目;该步骤30进一步包括:判断TER_Changed_Num≥Curr_Slots_Num×ThresHold是否为真,如果是,减少该节点中运行的任务的数目,如果否,增加该节点中运行的任务的数目;其中,TER_Changed_Num为执行速率在下降的任务的个数,Curr_Slots_Num为节点中当前运行的任务数,ThresHold为一阈值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201310700010.1/,转载请声明来源钻瓜专利网。