[发明专利]网络负载均衡方法、装置及集群服务系统

说明书

技术领域

本发明涉及互联网技术领域，特别是涉及网络负载均衡方法、装置及集群服务系统。

背景技术

在互联网中，用户的网络请求是由集群服务系统(简称集群)执行的。随着网络技术的迅猛发展，用户通过网络获取信息的需求不断增多，集群的负载也不断增加。为了使集群内多个服务节点(简称sercher节点或节点)之间实现合理的任务分配以提高系统的处理效率，在互联网中引入了负载均衡技术。负载均衡技术一方面把大量的并发任务请求或数据流量分担到多个节点上分别处理，减少流量拥塞，另一方面将单个任务请求分担到多个节点上做并行处理，提高系统的响应速度。

传统的网络负载均衡技术主要采用轮询调度算法和Hashing(哈希)算法。轮询调度算法每一次把来自用户的任务请求轮流分配给集群中的节点。Hashing算法则根据任务请求的源地址及目标IP地址，计算出对应的Hash值，并将任务请求分配给与该Hash值对应的节点。轮询调度算法和Hashing算法不关心每个节点的当前负载数和节点的处理能力，而是假设所有节点的处理能力都相同，其本质是将任务较为平均的分配到各节点中的负载均衡算法。

然而，当集群中的某个节点出现异常，例如该节点的I/O异常，或者由于网络暂时波动造成该节点负载过高时，从上层节点发过来的任务的处理能力就会降低。但是现有的负载均衡算法并没有对该节点做特别处理，而是依然会往该节点发送新的任务请求，这就导致该节点的任务队列增长迅速，如果该节点不能快速处理掉这些队列里面的任务，就会造成后续的任务请求都会超时，从而引起网络系统处理效率底下，甚至可能有节点宕机的风险。

发明内容

本发明实施例提供了网络负载均衡方法、装置及集群服务系统，以解决现有技术中的网络负载均衡方法当出现个别节点异常时容易引起网络系统处理效率底下，以及容易出现节点宕机风险的问题。

为了解决上述技术问题，本发明实施例公开了如下技术方案：

一方面，提供了一种网络负载均衡方法，所述方法包括：获取集群服务系统中可用的节点的健康度信息；根据所述节点的健康度信息计算所述节点的下发概率，根据所述下发概率选择发送任务请求的对应目标节点；根据选择的所述目标节点发送所述任务请求。

可选的，所述根据所述节点的下发概率选择发送任务请求的对应目标节点包括：根据所述节点的健康度信息确定所述节点对应的健康度等级；根据所述下发概率从所述健康度等级满足预设等级条件的节点中选择所述对应目标节点。

可选的，所述方法还包括：计算并存储所述目标节点的实时健康度信息。

可选的，所述计算所述目标节点的实时健康度信息包括：

接收所述目标节点在反馈所述任务请求的处理结果时发送的所述目标节点的实时健康度参数，所述目标节点包括第一目标节点和第二目标节点，其中所述第一目标节点为根据所述健康度等级选择的正常健康等级的节点，所述第二目标节点为根据所述健康度等级选择的不健康等级的节点；

根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度信息。

可选的，所述目标节点的实时健康度参数包括：

所述任务请求在所述目标节点的任务队列中的队列延时t_queue，和/或所述目标节点处理所述任务请求的延时t_process，和/或所述任务请求到达所述目标节点的网络延时t_net，和/或所述目标节点的I/O等待延时t_io/wait。

可选的，所述根据所述目标节点的实时健康度参数加权计算得到所述目标节点的实时健康度信息包括：