[发明专利]接续持续连接

说明书

技术领域

本发明涉及通信网络，尤其涉及基于分组的网络。

背景技术

Web服务器一般用来为用户提供信息和/或接收用户的输入。通常，客户机与Web服务器之间所传送的消息是根据HTTP(超文本传输协议)协议来传送的。在HTTP协议中，客户机向服务器发送请求消息，该消息一般包括统一资源地址(URL)，它可指出请求消息所属于的文件(或其他任何对象)。请求消息可以包含在一个或多个分组中，其中第一个分组通常包括URL。服务器对请求消息作出响应，向客户机发送一个结果消息，它包括服务器对请求的响应。

HTTP消息以TCP连接来传送。通常，当客户机想访问服务器时，它利用众所周知的HTTP端口(即TCP端口#80)或利用服务器的其他任何HTTP端口建立一个TCP连接，在连接建立后，通过该连接发送HTTP请求消息。TCP连接的建立要求在客户机与服务器之间传送三个分组，并可能需要少量的但可感到的时间。此外，建立连接消耗了服务器中的计算时间。在HTTP协议的早期版本中，各个HTTP请求消息通过单独的TCP连接发送到服务器，其方式称为持续方式。服务器通过接收请求消息时所用的TCP连接发送HTTP响应消息，然后再终止该TCP连接。较新的HTTP版本(即HTTPv1.1)使客户机与服务器之间所传送的所有HTTP消息都可以可选择地使用同一TCP连接。因此，单个TCP连接可以载送从客户机发向服务器的HTTP请求消息流。利用这种方案可以缩短建立TCP连接所需的时间。但是，服务器仍必须花费其一部分计算资源来管理TCP连接的建立和终止，尤其当不采用持续方式时，例如对于不支持新HTTP版本的客户机(如：浏览器、高速缓冲服务器)来说更浪费计算资源。

由于要访问Web站点的客户机很多，要由Web站点来载送的信息量很大，和/或为了要备用，因此，许多Web站点都是由多个服务器来主控的。负载均衡器接收发向Web站点的分组，并根据一个或多个参数将这些分组转发到各自的服务器。负载均衡器还有其他用途，例如用于将HTTP请求改发到代理高速缓冲存储器。

一些负载均衡器这样来选择分组所要转发到的服务器，其方法是将分组负载基本上均匀地分配到主控Web站点的服务器中。在这些负载均衡器中，服务器的选择与发向Web站点的消息内容无关。通常，这些负载均衡器将带有建立TCP连接请求的分组直接转发到所选定的服务器，这样，就可以在客户机与所选定服务器之间建立TCP连接。

在另外一些负载均衡器中，服务器的选择与发向Web站点的消息内容有关。例如，Web站点的不同部分可以由不同的服务器来主控。在这些情况下，关于分组要转发到哪个服务器的决定取决于该分组涉及到Web站点的哪一部分。通常，根据请求消息的URL来决定一连串分组涉及到Web站点的哪一部分。在其他情况下，根据分组的cookie字段和/或请求类型字段来决定。在这些负载均衡器中，在客户机与负载均衡器之间建立TCP连接，这样，负载均衡器就能接收请求消息的第一个分组并检查URL。URL被检查后，负载均衡器又在负载均衡器与所选定服务器之间建立TCP连接。于是，在称为接续的过程中，负载均衡器起到了两个TCP连接(即，客户机与负载均衡器之间的连接和负载均衡器与所选定服务器之间的连接)之间的桥接器的作用。在建立负载均衡器与所选定服务器之间的TCP连接时，必须将请求消息的第一个分组存储到负载均衡器中。这就要求安排一个很大的存储区，供负载均衡器当前正在为其选定服务器的那些连接的所有第一分组所使用。

发明内容

本发明的一些实施方式的一个方面涉及这样一种负载均衡器，这种负载均衡器管理它与至少一些与该负载均衡器相关的服务器之间的未使用的HTTP消息连接。当负载均衡器接收到HTTP请求消息的第一分组时，负载均衡器选择服务器以接收该请求消息，并立即将该分组转发到负载均衡器与所选定服务器之间的以前建立的TCP连接中。利用以前建立的连接，可以缩短服务器的响应时间，而且，在建立与所选定服务器之间的连接之前，不必将每则消息的第一个分组存储到负载均衡器中。不过，注意，在某些情况下，建立负载均衡器与所选定服务器之间的TCP连接的时间要比建立负载均衡器与客户机之间的TCP连接所需的时间短得多。

在本发明的某些实施方式中，负载均衡器监视它与服务器之间的TCP连接，这样，基本上在任何时候，它与每个服务器之间的未使用的连接个数都在相应服务器的预定允许范围内。