[发明专利]一种全局流控方法及装置

说明书

本发明实施例公开了一种全局流控方法及装置，涉及互联网技术领域，能够提供一种分布式系统中能够灵活部署的全局流控方案，缓减通过增加硬件设备的方式提高系统资源量从而导致的成本问题。本发明包括：在接收到应用服务器发送的请求消息后，确定所述请求消息对应的流控项，其中，所述流控项包括至少一个分项；根据所述流控项，向中央控制器请求获取令牌；获取所述中央控制器分配的令牌并反馈至发出请求的应用服务器。本发明适用于分布式系统中的全局流控。

技术领域

本发明涉及互联网技术领域，尤其涉及一种全局流控方法及装置。

背景技术

随着电商、互联网金融业的兴起，对于支撑各类在线业务的IT系统提出了高并发、高可靠、低延迟、低成本等综合能力要求。

为了保障整个IT生态链总体上的健康度，对于接入的子系统进行流控与降级是一种常用的控制手段。随着业务规模的快速增长，往往一个IT生态链会涉及数百个子系统，几千至几万台硬件设备，整个系统的风险点急剧上升，为了保障系统整体或部分一直在线，大规模全局系统中的系统架构，一般都会进行分布式的多活部署。而在实际的工程应用中，需要在令牌的发放侧明确令牌的有效期，并将具有相同有效期的令牌分装在一个或者多个子集合中，当应用服务器请求令牌时，则将子集合作为令牌资源进行分配。在传统的单应用/数据节点、单机房情况下，子集合的分配过程中，占用系统资源的问题还不明显。

但是，对于分布式的多活系统，不同节点对于令牌的需求量也不一样，因此为保障令牌分配过程中的均匀性，缓减令牌被闲置占用的问题，设计人员都会想尽办法减小子集合的粒度，提高令牌分配的均匀性。但是，子集合的粒度越小意味同时需要管理的子集合的数量越多，就需要占用更多的系统资源，其结果往往是系统资源的消耗量增加了一个量级。

对于银行、铁路售票等重要部门的系统来说，可以通过增加硬件设备的方式提高系统资源量，从而解决该问题，但是这种方式对于大部分互联网企业来说，成本太高。

发明内容

本发明的实施例提供一种全局流控方法及装置，能够提供一种分布式系统中能够灵活部署的全局流控方案，缓减通过增加硬件设备的方式提高系统资源量从而导致的成本问题。

为达到上述目的，本发明的实施例采用如下技术方案：

在接收到应用服务器发送的请求消息后，确定所述请求消息对应的流控项，其中，所述流控项包括至少一个分项；

根据所述流控项，向中央控制器请求获取令牌；

获取所述中央控制器分配的令牌并反馈至发出请求的应用服务器，其中，针对一个分项所分配的令牌的数量由所述中央控制器根据加总的时间和每秒流控值的获取；所述每秒流控值为：所述中央控制器单位时间内分配的令牌数。

本实施例中提供了一种本地与中央控制相结合的流控体系：在本地组件加载相应的规则引擎，从而判定需要流控的场景，其中，规则引擎可以采用目前已有的技术和算法。中央控制器以每秒流控值和加总的时间计算所需分配的令牌数，从而实现了完全以时间度量的令牌产生数量。并且，由于通过本地组件隔离了应用服务器和中央控制器的直接通信，使得中央控制器的通信压力减少。本实施例尤其适用于大规模、分布式的实时处理系统上，并且通过更改时间阈值和每秒流控值，即可实现大规模、分布式的实时处理系统的快速配置的，快速变更和生效的流控机制，实际应用中可以适应几乎所有的流控场景。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1为本发明实施例提供的一种可能的系统架构示意图；

图2为本发明实施例提供的一种方法流程示意图；