[发明专利]负载均衡处理方法、装置及电子设备在审
申请号: | 201810215480.1 | 申请日: | 2018-03-15 |
公开(公告)号: | CN110278226A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 许跃;张军;黄杰龙;林佳梁 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京市惠诚律师事务所 11353 | 代理人: | 逯博 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务器 负载均衡 装置及电子设备 候选服务器 目标服务器 随机选择 服务端 集群 服务器负载均衡 服务器负载 服务器确定 感知 | ||
本发明提供了一种负载均衡处理方法、装置及电子设备。该负载均衡处理方法包括:获取服务器列表,所述服务器列表中包括多个服务器和各服务器对应的请求等待数;在所述服务器列表中随机选择n个服务器,作为候选服务器,所述n为大于1的整数;将所述候选服务器中,对应请求等待数最小的服务器确定为目标服务器。本发明提供的负载均衡处理方法、装置及电子设备,通过在服务端集群的服务器列表中随机选择多个服务器,并将多个服务器中请求等待数最小的一个服务器作为目标服务器,从而基于请求等待数实现了对服务器负载的感知,进而使得服务端集群中的各服务器负载均衡。
技术领域
本发明涉及计算机技术领域,尤其涉及一种负载均衡处理方法、装置及电子设备。
背景技术
为了提升服务端的处理能力,一般通过复制服务,将其横向扩展成服务端集群。客户端选择服务器的一种方式是通过消息中间件获取服务端集群的地址列表,然后在本地选择一个服务器进行请求。
现有技术中,客户端主要通过以下两种方式实现对服务器的选择。第一种方式,轮询(Robin)方式,客户端按顺序逐一选择服务器。第二种方式,随机选择方式,客户端随机选择服务器。每个服务器被选中的概率相同。
但现有技术至少存在如下缺陷:轮询方式,其流量是均匀分布在服务端集群中的,随机选择方式,在大量请求下(从统计角度看),服务端集群的流量分布也是均匀的。而实际中,由于不同的服务器处理能力不同,导致服务端集群中的各服务器出现负载不均衡的问题,例如负载重的服务器承受了过多的流量,导致请求服务等待时间长,延迟严重,用户体验差。
发明内容
本发明提供一种负载均衡处理方法、装置及电子设备,以使得服务端集群中的各服务器负载均衡。
为达到上述目的,本发明采用如下技术方案:
一方面,本发明提供一种负载均衡处理方法,包括:获取服务器列表,所述服务器列表中包括多个服务器和各服务器对应的请求等待数;在所述服务器列表中随机选择n个服务器,作为候选服务器,所述n为大于1的整数;将所述候选服务器中,对应请求等待数最小的服务器确定为目标服务器。
另一方面,本发明还提供一种负载均衡处理装置,包括:获取模块,用于获取服务器列表,所述服务器列表中包括多个服务器和各服务器对应的请求等待数;选择模块,用于在所述服务器列表中随机选择n个服务器,作为候选服务器,所述n为大于1的整数;确定模块,用于将所述候选服务器中,对应请求等待数最小的服务器确定为目标服务器。
另一方面,本发明还提供一种电子设备,包括:存储器,用于存储程序;处理器,耦合至所述存储器,用于执行所述程序,以用于:获取服务器列表,所述服务器列表中包括多个服务器和各服务器对应的请求等待数;在所述服务器列表中随机选择n个服务器,作为候选服务器,所述n为大于1的整数;将所述候选服务器中,对应请求等待数最小的服务器确定为目标服务器。
本发明提供的负载均衡处理方法、装置及电子设备,通过在服务端集群的服务器列表中随机选择多个服务器,并将多个服务器中请求等待数最小的一个服务器作为目标服务器,从而基于请求等待数实现了对服务器负载的感知,进而使得服务端集群中的各服务器负载均衡。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1为本发明提供的负载均衡处理方法的应用场景示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810215480.1/2.html,转载请声明来源钻瓜专利网。