[发明专利]服务限流系统、方法、装置及电子设备

说明书

本申请公开了服务限流系统、方法和装置，电子设备。其中，所述系统通过分别部署在应用系统相关的多个应用服务器中的应用限流装置，获取各个应用服务器的负载数据，并将负载数据发送至限流参数协调装置，限流参数协调装置根据多个应用服务器的负载数据，判断是否变更所述应用服务器的限流阈值，若是，则向应用限流装置发送阈值变更指示信息，应用限流装置接收到该指示信息后，根据指示信息确定所述应用服务器的限流阈值，对应用服务器提供的服务执行访问限流。由于实时感知应用系统的多个应用间的调用关系和应用负载情况，基于全局负载情况，动态调整上下游应用的限流阈值，实现应用之间联动协调限流阈值；因此，可以有效提升限流阈值的准确度。

技术领域

本申请涉及计算机技术领域，具体涉及服务限流系统、方法和装置，以及电子设备。

背景技术

随着互联网技术的不断发展，越来越多的应用系统由单应用的服务架构演变为多应用的服务架构。基于多应用服务架构的应用系统，其处理一个访问请求时的完整调用过程可能横跨多个应用，各个应用之间相对独立，可能由不同团队、不同语言实现。图1示出了一个请求完整的调用链，经过多个应用服务，调用关系复杂，以电商系统为例，其订单服务包括下单、支付、物流、底层系统等多个应用。

限流是保护应用高可用的重要手段，为每个接口或者API配置不同的限流阈值，能够起到保护应用高可用的目的。目前，一种典型的服务限流方式是基于独立设置单应用限流阈值的服务限流方案，即：根据每个应用的负载情况分别设置各个应用的限流阈值，例如，根据应用A的负载情况设置应用A的限流阈值，根据应用B的负载情况设置应用B的限流阈值，具体可以是使用启动参数、配置文件、硬编码等方式在程序启动的时候一次性设置限流阈值方案。

然而，在实现本发明过程中，发明人发现该技术方案至少存在如下问题：服务调用链上的各个应用之间具有上下游依赖关系，单独对上游应用设置限流阈值，使得只能保护该上游应用本身的安全，但实际通过的流量可能已经超出其下游应用的承载能力，而该上游应用却对此并不知情，直到下游应用无法提供服务甚至崩溃之后才被发现，下游应用的故障将导致上游应用无法提供服务。

综上所述，现有方案只保护整个应用系统中的某个应用，而忽略了应用之间的依赖关系，因而导致不同应用之间的限流阈值并不匹配，从而严重降低应用系统的可用性。

发明内容

本申请提供服务限流系统，以解决现有技术存在的应用系统可用性较低的问题。本申请另外提供服务限流方法和装置，以及电子设备。

本申请提供一种服务限流系统，包括：

限流参数协调装置和部署在多个应用服务器中的应用限流装置；所述多个应用服务器包括与服务调用链上多个应用对应的应用服务器；

所述应用限流装置，用于获取所述应用服务器的负载数据，将所述负载数据发送至所述限流参数协调装置；以及，接收所述限流参数协调装置发送的阈值变更指示信息，根据所述指示信息确定所述应用服务器的限流阈值，根据确定的限流阈值对面向所述应用服务器的访问请求执行限流；

所述限流参数协调装置，用于接收所述应用限流装置发送的所述负载数据，根据所述多个应用对应的应用服务器的所述负载数据，判断是否变更所述应用服务器的限流阈值，若是，则向所述应用限流装置发送所述指示信息。

可选的，所述应用限流装置，具体用于根据所述指示信息包括的限流阈值，对所述访问请求执行限流；

所述限流参数协调装置，还用于根据所述多个应用对应的应用服务器的所述负载数据，确定所述应用服务器的限流阈值。

可选的，所述限流参数协调装置，具体用于根据所述多个应用对应的应用服务器的所述负载数据，判断具有调用关系的应用间负载是否匹配，若否，则根据具有调用关系的应用的负载数据，确定所述应用服务器的限流阈值。