[发明专利]一种多维度集中流量的控制方法及系统

说明书

本发明公开了一种多维度集中流量的控制方法及系统，其中，该方法包括：接收服务调用方发起的请求；根据设置的流量控制维度，从令牌桶中获取对应维度的令牌，并依次分配给请求；将分配到令牌后的请求转发到服务提供方的消息队列上进行排队；当请求排队结束后，判断请求是否有访问服务提供方的令牌；在有令牌的情况下，将请求转发至服务提供方，并在收到服务提供方的返回信息时，释放令牌。该方法及系统利用集中流量控制结合多维度控制相互组合，实现精准的流量控制，能够有效地防止超过系统负荷的并发访问，保证系统的运行稳定；并且还通过建立独立虚拟通道，使流量控制过程中各系统之间完全隔离，避免相互影响，进一步提高了系统运行的稳定性。

技术领域

本发明涉及流量控制技术领域，尤指一种多维度集中流量的控制方法及系统，用于企业应用集成的流量控制。

背景技术

流量控制是指在资源有限的情况下，当资源成为瓶颈时，采取某种措施限制访问请求数。目前，最常用的是令牌桶算法；令牌桶算法是指请求进来时，从令牌桶中拿走一个令牌，只有携带令牌的请求才会被处理。如图1所示，为令牌桶原理示意图；令牌桶中的令牌按照一定的速率生成，因受令牌桶大小限制，在生成令牌时会判断令牌桶是否已满。这种机制，对于应用来说，只需要从桶中取令牌即可，与应用代码的耦合度低，并且当系统空闲时令牌桶可以积攒N倍于限流值的令牌来满足瞬时大流量的场景。

但是，现有的令牌桶算法仅对调用方做了限流，而对系统本身及后端服务提供方均未作流量控制限制。这种算法没有应答机制，服务调用方只管拿令牌发送请求，令牌桶只要没满就按一定速率生成令牌，整个流程并不在意服务提供方是否可用。所以，在令牌充足时，服务提供方堵塞或其他情况不可用，服务调用方拿到令牌后仍不断向后端发送请求，可能导致服务提供方系统完全瘫痪。

因此，亟需一种能够协调服务调用方与服务提供方的流量控制方案。

发明内容

为解决上述问题，本发明提出了一种多维度集中流量的控制方法及系统，该方法及系统可以对服务调用方、服务提供方及其它维度进行控制，通过队列机制使流量控制更加平滑，保证服务调用方系统及服务提供方系统的稳定运行。

在本发明一实施例中，提出了一种多维度集中流量的控制方法，该方法包括：

接收服务调用方发起的请求；

根据设置的流量控制维度，从令牌桶中获取对应维度的令牌，并依次分配给所述请求；

将分配到令牌后的所述请求转发到服务提供方的消息队列上进行排队；

当所述请求排队结束后，判断所述请求是否有访问服务提供方的令牌；

在有令牌的情况下，将所述请求转发至所述服务提供方，并在收到所述服务提供方的返回信息时，释放所述令牌。

可选的，该方法还包括：建立服务调用方与服务提供方之间的独立的虚拟通道，用于对相应的所述服务调用方与服务提供方进行流量控制。

可选的，所述独立的虚拟通道包含独立的接入线程池、独立的接入流量控制模块、独立的队列处理模块、独立的接出流量控制模块及独立的接出线程池在内的独占资源。

可选的，根据设置的流量控制维度，从令牌桶中获取对应维度的令牌，并依次分配给所述请求，包括：

利用所述接入流量控制模块，根据设置的流量控制维度，从令牌桶中获取对应维度的令牌，并依次分配给所述请求；其中，所述流量控制维度包括：服务调用方、服务ID、服务提供方。

可选的，当所述请求排队结束后，判断所述请求是否有访问服务提供方的令牌，包括：

当所述请求排队结束后，由接出流量控制模块判断所述请求是否有访问服务提供方的令牌；其中，所述接出流量控制模块的流量控制维度包括：服务提供方。