[发明专利]一种基于动态反馈的微服务负载均衡优化方法

说明书

本发明公开了一种基于动态反馈的微服务负载均衡优化方法，包括如下步骤：对虚拟节点进行分配，根据各节点服务器的处理性能确定分配给每个物理节点的虚拟节点个数，均匀的分布在哈希环上；进行负载均衡算法的优化，选择合适的指标和参数，计算各节点的负载量，作为负载均衡的衡量参数；进行任务调度和动态调整，合理的分配任务，并实时的对负载进行修正；根据设计的负载均衡的方案，在进行插入/删除节点时，进行合理的负载迁移。方案实现了面向微服务的负载均衡优化算法，解决了微服务集群中服务负载增多导致的服务负载不均衡的问题，避免了因负载压力多大导致的服务崩溃的问题。

技术领域

本发明涉及一种基于动态反馈的一致性哈希微服务负载均衡优化方法，属于微服务架构领域。

背景技术

随着互联网技术的高速发展，业务需求的日益复杂化，用微服务框架开发的各种系统在日常应用中越来越广泛。随着互联网用户的不断增长导致网站流量呈现爆炸式增长，Web服务器过载、拥塞、响应延迟和服务器崩溃等问题接踵而至，对服务器性能带来了巨大的挑战。为了使用户达到最佳的体验，最常用的解决方案就是集群技术。当大量的服务请求在单位时间内到达时，单一的服务器已经无法满足高并发大规模的访问了，因此采用集群技术来提高服务器的并发性，而其中最为核心的问题就是如何对到来的大量的服务请求进行合理的任务调度即负载均衡的问题。

负载均衡策略主要分为两大类，静态负载均衡策略和动态负载均衡策略。静态负载均衡策略是采用预先确定好了的算法，当请求进入时，根据确定了的算法分配请求到相应的服务器，如轮询策略、随机策略、哈希一致性策略等都属于静态负载均衡策略。因为是预先确定好的算法，调度过程中缺少与服务器实时交互的过程，不考虑服务器当前状态的负载能力，所以容易产生负载不均衡的情况发生，导致出现服务器过载、拥塞、响应延迟和服务器崩溃等问题。而动态负载均衡策略则会实时的考虑服务器的负载状态，在合适的时机获取当前服务器的负载状态，如接收到请求时或者周期性的访问等时机，能够更为合理的考虑服务器的负载状态并分配任务，如最小连接数策略、加权最小连接数策略等都属于动态负载均衡算法。但是它们的动态指标仅有一个服务器当前的连接数，并不能充分反映当前服务器的负载情况和处理请求的能力。

因此，选择合理的动态负载指标，设计合适的动态负载均衡策略是研究负载均衡需要研究的最核心的问题。

发明内容

发明目的：针对当前负载均衡策略中未考虑服务器实时负载信息或考虑负载信息不充分的情况，研究提出了一种基于动态反馈的一致性哈希微服务负载均衡优化方法，充分考虑节点处理能力和实时负载信息，实现更合理、更均衡的负载调度策略，提高服务器的负载均衡能力。

技术方案：本发明所述的一种基于动态反馈的一致性哈希微服务负载均衡优化方法，包括：

(1)对一致性哈希算法中虚拟节点进行分配；

(2)采用负载均衡算法计算负载量，将请求分配到负载量相对较小的节点；

(3)以各个节点负载量的平均值乘以平衡参数的方式获取的每个节点的负载界限，用于控制各个节点之间的负载均衡，通过修改连接数来实现的负载量的动态调整；

(4)节点的插入、删除；

进一步地，步骤(1)的具体方法如下：

对于节点S_i的性能C(S_i)，综合考虑其CPU数量n_i、CPU频率C(C_i)、内存容量C(M_i)、磁盘I/O速率C(D_i)、网络吞吐量C(N_i)，计算节点性能的公式如下所示：

i＝0，1，…，n-1，∑k＝1

其中，k_x表示各性能指标的权重，权重总和为1；