[发明专利]业务请求处理方法及装置、和业务请求方法及装置

说明书

本发明公开了一种业务请求处理方法及装置、和业务请求方法及装置。该业务请求处理方法包括：实时监控各个代理服务器的健康状况，生成代理服务器健康状况列表；接收前端客户端定期发出的代理服务器健康状况请求消息，将代理服务器健康状况列表反馈给前端客户端，使前端客户端根据代理服务器健康状况列表向健康的代理服务器发送请求。借助于本发明的技术方案，能够在代理服务器升级重启时做到对前端客户端完全透明，前端客户端请求失败数为零，使代理服务器重启不影响业务和用户体验，从而提升系统的可用性和用户体验。

技术领域

本发明涉及计算机技术领域，特别是涉及一种业务请求处理方法及装置、和业务请求方法及装置。

背景技术

代理服务器是分布式存储平台提供给前端客户端访问的接口机，所有使用者的请求通过代理服务器接入，并根据请求的Key将相应的请求路由到对应的底层服务(Server)中去。图1是现有技术中一种分布式存储平台的单集群架构示意图，图2是现有技术中一种分布式存储平台的多集群架构示意图，从图中可以看到，代理服务器在整个分布式存储平台中起着尤为重要的作用，主要包括：对于客户端和代理服务器之间TCP长连接的管理、前端请求路由、批量请求的分包处理、负载均衡、异常检测、安全等方面。

当代理服务器进行升级或其他改动需要重启时，会造成业务侧正在请求的消息丢失或错误，对于高并发量的业务尤为如此，每秒钟都会造成成千上万的请求失败。具体地，代理服务器升级重启时，重启瞬间前端会将请求继续发送到对应的代理服务器，由于系统重启导致当前的所有请求失败，影响业务使用和用户的体验。如果能在代理服务器升级或重启的时候做到平滑升级，在重启时不影响线上业务的请求，即将当前业务的请求失败量降为零，不仅能提高服务的可用性，同时对前端用户的体验也是一次提升。

在现有技术中，在后端系统升级或重启时基本都没有采取有效的措施去避免当前请求及后续请求的丢失和失败，一些比较重要的系统也只是在前端调用方加了一些诸如负载均衡的策略，诸如：在调用方记录每分钟或每秒钟请求的请求数、响应数或者超时数、失败数，当超时或者失败数超过一定阈值时，将请求的系统列为黑名单，后续的请求不再继续请求该系统。然而这需要一个时间去试错，一段时间内的请求都会失败。对于一些要求比较严格、业务比较重要的场景还是不太适合。从上述描述可以看出，在现有技术中后端系统升级或重启时，不能实时探测到系统处于不可用的状态，而自动切换为其他系统。并且，在一段时间内，所有的请求都会失败。此外，为了去发现系统是否恢复，需要牺牲一小部分请求包做探测。

发明内容

鉴于现有技术中代理服务器升级或重启使线上业务的请求失败的问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的业务请求处理方法及装置、和业务请求方法及装置。

本发明提供一种业务请求处理方法，包括：

实时监控各个代理服务器的健康状况，生成代理服务器健康状况列表；

接收前端客户端定期发出的代理服务器健康状况请求消息，将代理服务器健康状况列表反馈给前端客户端，使前端客户端根据代理服务器健康状况列表向健康的代理服务器发送请求。

本发明还提供一种业务请求方法，应用于前端客户端中，包括：

定期发出代理服务器健康状况请求消息；

接收返回的代理服务器健康情况列表；

从代理服务器健康情况列表中，选择通过健康的代理服务器向分布式存储平台发送业务请求。

本发明还提供了一种业务请求处理装置，包括：

监控模块，用于实时监控各个代理服务器的健康状况，生成代理服务器健康状况列表；