[发明专利]用于节能分布式和弹性负载均衡的方法和设备

说明书

技术领域

本发明一般涉及用于提供服务器负载均衡的方法和设备。

背景技术

本部分对有助于更好地理解本发明的几个方面进行介绍。因此，要在这个基础上来阅读本部分的陈述，并且不应将这些陈述理解为承认什么是现有技术，或者什么不是现有技术。

在一些已知负载均衡系统中，可以在多个服务器上托管服务，以提供更高质量的服务，例如高吞吐量和低响应时间。典型的架构可以包括前端负载均衡器和固定数量的后端服务器。前端负载均衡器可以使专用硬件箱，专用硬件箱使用如下的常规分配策略来将输入的请求分配给不同的服务器，例如：随机分配、轮叫调度分配或基于负载的分配。在该模式中，所有的服务器节点都是活动的，并准备好为服务请求提供服务。

在其它已知的负载均衡系统中，只要服务器能够满足性能限制，前端负载均衡器就将新的请求发送至负载最大的服务器，以创造更多的机会使服务器保持低功耗状态。但是，该方案不可调整，这是因为跟踪大量异类服务器需要使用复杂且昂贵的前端负载均衡器。

发明内容

各种实施方式提供了用于提供负载均衡配置的方法和设备，该负载均衡配置适应于整体负载，并根据负载调整功耗以改善能量效率和可调整性。节能分布式和弹性负载均衡架构包括安排为树形结构的一组多层服务器。对输入的服务请求的处理在多个服务器之间进行分配。虚拟负载分配树中的每个服务器基于它自身的负载接受输入的服务请求。一旦接收服务器达到预定负载，接收服务器将输入的请求传递给它的一个或多个子服务器。

在一个实施方式中，提供了一种方法，该方法在父服务器处提供节能和弹性负载均衡。该方法包括：接收一个或多个客户端实例化(instantiate)的多个服务请求，基于服务请求来确定多个服务处理决定，多个服务处理决定对应于多个服务请求的至少一部分，基于服务处理决定中的第一服务处理决定来选择子服务器并基于第一服务请求来发送第一传播的服务请求，第一服务请求对应于第一服务处理决定，基于服务处理决定中的第二服务处理决定来选择父服务器并处理第二服务请求，第二服务请求对应于第二服务处理决定。

在一些实施方式中，处理第二服务请求的行为包括对第二服务请求的实例化客户端做出直接响应。

在一些实施方式中，所述方法包括：基于多个服务请求中的至少一个来确定父负载，父负载指示父服务器的负载并基于父负载和服务器负载阈值来唤醒父服务器的至少一个子服务器。

在一些实施方式中，所述方法还包括：基于多个服务请求中的至少一个来确定父负载，父负载指示父服务器的负载，接收父-父负载，父-父负载指示父-父服务器的负载，其中父-父服务器是父服务器的父服务器，并且基于父负载、父-父负载以及父-父负载阈值来将父服务器的运行切换为睡眠模式。

在一些实施方式中，所述方法还包括：登记子服务器和至少一个相关联的选择参数，至少一个相关联的选择参数为基于第一服务请求的；基于多个服务请求中的第三服务请求和登记的至少一个相关联的选择参数来选择子服务器，并且基于第三服务请求来发送第三传播的服务请求。

在第二实施方式中，提供了一种设备，该设备在父服务器处提供节能和弹性负载均衡。所述设备包括数据存储器和与数据存储器可通信地耦合的处理器。处理器被配置为：接收一个或多个客户端实例化的多个服务请求，基于服务请求来确定多个服务处理决定，多个服务处理决定对应于多个服务请求的至少一部分，基于服务处理决定中的第一服务处理决定来选择子服务器并基于第一服务请求来发送第一传播的服务请求，第一服务请求对应于第一服务处理决定，基于服务处理决定中的第二服务处理决定来选择父服务器并处理第二服务请求，第二服务请求对应于第二服务处理决定。

在一些实施方式中，对第二服务请求的处理包括将处理器进一步配置为：对第二服务请求的实例化客户端做出直接响应。

在一些实施方式中，处理器还被配置为：基于多个服务请求中的至少一个来确定父负载，父负载指示父服务器的负载并基于父负载和服务器负载阈值来唤醒父服务器的至少一个子服务器。

在一些实施方式中，处理器还被配置为：基于多个服务请求中的至少一个来确定父负载，父负载指示父服务器的负载，接收父-父负载，父-父负载指示父-父服务器的负载，其中父-父服务器是父服务器的父服务器，并且基于父负载、父-父负载以及父-父负载阈值来将父服务器的运行切换为睡眠模式。