[发明专利]一种具延迟感知负载平衡的反向代理方法和存储设备

说明书

一种具延迟感知负载平衡的反向代理方法和存储设备。其方法步骤为：将反向代理服务器、应用服务和服务自动伸缩控制器以软件自定义结构设置于边缘服务器中；通过边缘服务器中的资源指标服务器监控边缘服务器的内外使用资源参数；根据内外使用资源参数对应用服务扩展数量进行调整。通过将反向代理服务器与应用服务设置于边缘服务器中，通过边缘服务器中的内部通讯可大大减少数据于网络传输中的时间花费，进而减少客户等待服务的响应延迟。

技术领域

本发明涉及反向代理技术领域，特别涉及一种具延迟感知负载平衡的反向代理方法和存储设备。

背景技术

Reverse Proxy Server反向代理服务器为一客户端和服务器之间的通信的中介，在接受来自客户端的请求后，将其转发到可以满足该请求的服务器，然后将服务器的响应返回给客户端，由于客户端仅能看到反向代理的IP地址，因此服务提供商可以自由更改后端基础结构的配置，经由上下扩展服务器的数量以匹配流量的波动。因此，反向代理服务器除了视为一个网站的公开面孔外，亦能当作一个Load Balancing负载平衡控制器。

虽然Reverse Proxy Server反向代理服务器提供了后端服务的可扩展性和灵活性，但由于反向代理服务器仍需与后端各服务器沟通，以完成反向代理工作与提供后端服务(这边指的是各种SERVER)扩展数量之依据，因此在反向代理服务器与后端各服务器之间存在着内部通讯之开销，此外亦造成后端服务扩展无法实时对应流量的波动。(因有通讯延迟，所以后端服务扩展的数量，可能无法实时与当前反向代理服务器所收到的流量对应)。可以理解为当服务拓展数量较大，但反向代理服务器目前可接受的较少，或是服务拓展数量较小，但反向代理服务器目前可接受的较多时，只要双方数量对不起来就会延迟，效能不好。

发明内容

为此，需要提供一种具延迟感知负载平衡的反向代理方法，用以解决反向代理服务器与后端服务数量不对称时，造成通讯延迟、效能低的问题。具体技术方案如下：

一种具延迟感知负载平衡的反向代理方法，包括步骤：

将反向代理服务器、应用服务和服务自动伸缩控制器以软件自定义结构设置于边缘服务器中；

通过所述边缘服务器中的资源指标服务器监控所述边缘服务器的内外使用资源参数，所述内外使用资源参数包括以下中的一种或多种：边缘服务器外的网络传输量、边缘服务器中各应用服务的资源使用率、服务响应延迟时间；

根据所述内外使用资源参数对所述应用服务扩展数量进行调整。

进一步的，所述“通过所述边缘服务器中的资源指标服务器监控所述边缘服务器的内外使用资源参数”前，还包括步骤：

响应客户端指令，所述反向代理服务器根据所述指令反向代理至当前负载最低的应用服务；

所述“通过所述边缘服务器中的资源指标服务器监控所述边缘服务器的内外使用资源参数”，还包括步骤：

所述边缘服务器中的资源指标服务器汇集当前边缘服务器中各应用服务的资源使用率和边缘服务器外的网络传输量；

所述资源指标服务器发送所述当前边缘服务器中各应用服务的资源使用率和边缘服务器外的网络传输量至所述服务自动伸缩控制器；

所述“根据所述内外使用资源参数对所述应用服务扩展数量进行调整”，还包括步骤：

所述服务自动伸缩控制器根据预设法则判断是否更新应用服务数量，若更新应用服务数量，则重复步骤“通过所述边缘服务器中的资源指标服务器监控所述边缘服务器的内外使用资源参数”，若不需要更新应用服务数量，则所述资源指标服务器汇集所述边缘服务器当前各应用服务的资源使用率并发送所述当前各应用服务的资源使用率至反向代理服务器。

进一步的，所述预设法则为负载平衡法则；