[发明专利]分布负载平衡器系统和负载平衡方法

说明书

一种分布负载平衡器，其中路由器从至少一个客户端接收封包，并且将封包流路由至多个进入服务器。针对未知封包流，进入服务器配合主要流量跟踪器和次要流量跟踪器来建立至服务器节点的连接。针对已知封包流，所述进入服务器将所述封包发送至目标服务器节点。所述服务器节点随机地选择用于所述封包流的传出封包的外出服务器。所述进入服务器、流量跟踪器和外出服务器通过负载平衡器节点层中的多个负载平衡器节点实现。用于给定封包流的所述进入服务器和外出服务器可处于不同的负载平衡器节点上。所述负载平衡器节点可使用一致哈希函数来根据封包流客户端/公共端点对计算用于所述节点的一致哈希环，从而可以定位与给定封包流相关联的节点。

技术领域

本发明涉及计算机网络，具体地说，涉及在冗余负载平衡节点和服务器节点之间对客户端请求进行负载平衡。

背景技术

常规负载平衡器通常为单一、专门盒，其包括多个网络接口控制器(NIC)，例如八个NIC，其中NIC中的一些操控来自客户端的进入流量/到客户端的外出流量而其他NIC操控来自正在负载平衡的主机装置(例如，服务器如网络服务器)的传出流量/到主机装置的传入流量。这些常规负载平衡器上的带宽或通量通常在客户端侧上为40吉比特/秒(Gbps)而在服务器侧上为40Gbps的范围。随着基于网络的应用和基于网络的服务如云计算服务的规模和范围增加，数据中心可容纳数百或甚至数千个需要负载平衡的主机装置(例如，网络服务器)。常规负载平衡器在这类环境中可能不会较好地调整。

此外，常规负载平衡器通常使用应用于从主机装置收集的数据以选择哪一个主机装置将操控连接的技术例如最大连接(或max conns)、循环和/或最小连接(least conns)。另外，常规负载平衡器通常充当其在前面的主机装置的代理，且因而终止来自客户端的连接(例如，传输控制协议(TCP)连接)并且在主机装置与负载平衡器之间建立的TCP连接上将客户端流量发送至主机装置。因此，在使用这些常规负载平衡器时，主机装置和客户端不在直接TCP连接上通信。

发明内容

本发明包括用于在多个负载平衡节点和服务器节点之间对客户端请求进行负载平衡的系统和方法。一种分布式负载平衡器包括路由器，该路由器从至少一个客户端接收封包并把封包流路由到多个进入服务器。对于未知的封包流，进入服务器与主要流跟踪器以及次要流跟踪器协作以建立至服务器节点的连接。对于已知的封包流，进入服务器把所述封包发送至目标服务器节点。服务器节点为封包流的外出封包随机选择外出服务器。进入服务器、流跟踪器和外出服务器由负载平衡器节点层中的多个服务器平衡器节点实现。用于给定封包流的进入服务器和外出服务器可以在不同的负载平衡器节点上。所述负载平衡器节点可使用一致哈希函数来根据封包流客户端/公共端点对计算用于所述节点的一致哈希环，从而可以定位与给定封包流相关联的节点。

附图说明

图1是根据至少一些实施方案的示例性分布负载平衡系统的方框图。

图2是根据至少一些实施方案的可由图1的分布负载平衡器系统实施的负载平衡法的较高水平流程图。

图3示出根据至少一些实施方案的包括进入、外出和流量跟踪器部件的示例性负载平衡器节点。

图4示出根据至少一些实施方案的分布负载平衡器中的路由和封包流。

图5示出根据至少一些实施方案的将进入节点向边缘路由器公布。

图6是根据至少一些实施方案的多路径路由方法的流程图。

图7图形化示出根据至少一些实施方案的不对称封包流。

图8示出根据至少一些实施方案的分布负载平衡系统中的封包流。

图9A和9B提供根据至少一些实施方案的在分布负载平衡系统中建立连接时的封包流的流程图。

图10A至10G示出根据至少一些实施方案的分布负载平衡系统中的封包流。