[发明专利]HBase热点消除方法及系统有效
申请号: | 201510398124.4 | 申请日: | 2015-07-08 |
公开(公告)号: | CN104951561B | 公开(公告)日: | 2018-09-07 |
发明(设计)人: | 李亚锋;刘钰帆 | 申请(专利权)人: | 上海携程商务有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海弼兴律师事务所 31283 | 代理人: | 薛琦;王婧荷 |
地址: | 200335 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | hbase 热点 消除 方法 系统 | ||
1.一种HBase热点消除方法,其特征在于,包括:
S1、设定集群的HBase表中的每一Region的被交换次数的初始值为0;
S2、检测集群,将集群中的Region热点加入至一热点机器列表,Region热点为请求量超过一第一请求量阈值的Region;
S3、判断该热点机器列表包括的Region热点的数量是否为0,若是,则结束流程,若否,则执行S4;
S4、从该热点机器列表中选择一个Region热点作为待消除Region热点;
S5、判断该待消除Region热点的被交换次数是否超过一交换阈值,若超过,则执行S6,若未超过,则执行S7;
S6、将该待消除Region热点拆分成两个Region,然后执行S8;
S7、从该集群中选择一不具有Region热点的RegionServer,并将该待消除Region热点与被选择的不具有Region热点的RegionServer的Region交换,并更新该待消除Region热点的被交换次数;
S8、将该待消除Region热点从该热点机器列表中移除,然后执行S3;
步骤S1之后,还包括:
T1、获取集群的HBase表的RegionServer热点,RegionServer热点为请求量超过一第二请求量阈值的RegionServer;
T2、计算该RegionServer热点的访问量最高的N个Region的方差,N为正整数;
T3、判断该方差是否小于一方差阈值,若是,则执行T4,若否,则执行T5;
T4、从该集群中选择一请求量未超过该第二请求量阈值的RegionServer,并将该RegionServer热点的访问量最高的M1个Region与被选择的请求量未超过该第二请求量阈值的RegionServer的Region交换,M1为小于或等于N的正整数,然后结束流程;
T5、将访问量最高的M2个Region作为Region热点加入至热点机器列表,然后执行S3,M2为小于或等于N的正整数。
2.如权利要求1所述的HBase热点消除方法,其特征在于,S1还包括:
S11、设定集群的被检测次数的初始值为0;
S12、判断集群的被检测次数是否达到一检测阈值,若达到,则结束流程,若未达到,则执行S2;
S2还包括更新该被检测次数;
S3替换为:S3’、判断该热点机器列表包括的Region热点的数量是否为0,若是,则执行S12,若否,则执行S4。
3.如权利要求1所述的HBase热点消除方法,其特征在于,S7还包括:
S71、从该集群中请求量最小的RegionServer中选取请求量最小的Region,并将该待消除Region热点与被选取的Region交换。
4.如权利要求3所述的HBase热点消除方法,其特征在于,S7还包括:判断该集群中的不具有Region热点的RegionServer中是否包括与该待消除Region热点同一table的Region,若是,则执行S72,若否,则执行S71;
S72、将该待消除Region热点与该同一table的Region交换。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海携程商务有限公司,未经上海携程商务有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510398124.4/1.html,转载请声明来源钻瓜专利网。