[发明专利]集群负载调度方法、装置、电子设备和存储介质有效
申请号: | 201910851037.8 | 申请日: | 2019-09-10 |
公开(公告)号: | CN110545326B | 公开(公告)日: | 2022-09-16 |
发明(设计)人: | 章海怒;龚天成 | 申请(专利权)人: | 杭州数梦工场科技有限公司 |
主分类号: | H04L67/1042 | 分类号: | H04L67/1042;H04L67/1008;H04L67/1031;H04L47/125;H04L47/50 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 王艳斌 |
地址: | 310024 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 集群 负载 调度 方法 装置 电子设备 存储 介质 | ||
1.一种集群负载调度方法,其特征在于,包括以下步骤:
获取多个节点中每一个节点对应的负载信息,其中,所述负载信息包括每一个节点对应的HDFS指标和HBase指标,所述HDFS指标包括进程垃圾收集时间、HDFS内存使用率和第一当前请求数量中的一种或者多种,所述HBase指标包括HBase内存占用率、第二当前请求数量和HBase存储数据块个数中的一种或者多种;
若节点对应的负载信息满足任一不可调度条件,则确定为不可调度节点,其中,所述不可调度条件包括:若所述进程垃圾收集时间大于预设时间阈值;若所述HDFS内存使用率大于预设使用率阈值;若所述第一当前请求数量大于预设请求阈值;若所述HBase内存占用率大于预设占用阈值;若所述第二当前请求数量大于预设使用阈值;若所述HBase存储数据块个数大于预设个数阈值;
将所述不可调度节点从所述多个节点中删除得到待评分节点;
根据所述待评分节点中每一个节点对应的负载信息按照预设评分规则进行评分;
根据评分结果从所述待评分节点中确定目标节点,并将待存储数据块调度到所述目标节点。
2.如权利要求1所述的方法,其特征在,所述获取多个节点中每一个节点对应的负载信息,还包括:
获取每一个节点对应的处理器使用信息和存储器使用信息;
所述若节点对应的负载信息满足预设不可调度条件,则确定为不可调度节点,包括:
若节点对应的处理器使用信息大于预设第一使用阈值;或
若节点对应的存储器使用信息大于预设第二使用阈值,则确定为不可调度节点。
3.如权利要求1所述的方法,其特征在,所述根据所述待评分节点中每一个节点对应的负载信息按照预设评分规则进行评分,包括:
根据预设公式对每一个节点对应的处理器使用信息、存储器使用信息、HDFS内存使用率和HBase存储数据块个数进行计算得到每一个节点对应的评分数值。
4.如权利要求1所述的方法,其特征在,所述根据评分结果从所述待评分节点中确定目标节点,并将待存储数据块调度到所述目标节点,包括:
将所述每一个节点对应的评分数值进行比较确定最小评分数值,确定所述最小评分数值对应的节点为所述目标节点,并将待存储数据块调度到所述目标节点。
5.一种集群负载调度装置,其特征在于,包括:
获取模块,用于获取多个节点中每一个节点对应的负载信息,其中,所述负载信息包括每一个节点对应的HDFS指标和HBase指标,所述HDFS指标包括进程垃圾收集时间、HDFS内存使用率和第一当前请求数量中的一种或者多种,所述HBase指标包括HBase内存占用率、第二当前请求数量和HBase存储数据块个数中的一种或者多种;
确定模块,用于若节点对应的负载信息满足任一不可调度条件,则确定为不可调度节点,其中,所述不可调度条件包括:若所述进程垃圾收集时间大于预设时间阈值;若所述HDFS内存使用率大于预设使用率阈值;若所述第一当前请求数量大于预设请求阈值;若所述HBase内存占用率大于预设占用阈值;若所述第二当前请求数量大于预设使用阈值;若所述HBase存储数据块个数大于预设个数阈值,则确定所述节点为不可调度节点;
删除模块,用于将所述不可调度节点从所述多个节点中删除得到待评分节点;
评分模块,用于根据所述待评分节点中每一个节点对应的负载信息按照预设评分规则进行评分;
存储模块,用于根据评分结果从所述待评分节点中确定目标节点,并将待存储数据块调度到所述目标节点。
6.如权利要求5所述的装置,其特征在,所述获取模块,还用于:
获取每一个节点对应的处理器使用信息和存储器使用信息;
所述确定模块,具体用于:
若节点对应的处理器使用信息大于预设第一使用阈值;或
若节点对应的存储器使用信息大于预设第二使用阈值,则确定为不可调度节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州数梦工场科技有限公司,未经杭州数梦工场科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910851037.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于智能合约的数据加密分享方法
- 下一篇:一种信息推送方法及系统