[发明专利]服务集群的流量控制方法及系统

说明书

本申请提供了一种服务集群的流量控制方法及系统，包括：服务端在服务实例当前的工作时间段，统计包含服务端的调用链中的每个服务实例的流量累计值；服务端根据流量累计值执行对服务实例的流量控制操作，以及向限流处理端发送流量值处理请求；限流处理端根据调用链的待分配流量总额的剩余额度，为流量累计值分配流量抵消值，流量累计值与流量抵消值相减，并将处理结果发送至服务端，服务端根据处理结果，执行下一工作时间段对调用链的流量控制操作。本申请的限流操作可以在本地进行，不用访问远端的远程字典服务，服务端仅在进行流量处理时才会访问远程字典服务，使得流量处理产生的流量较小，不会对远程字典服务的负载造成过多压力。

技术领域

本申请实施例涉及计算机技术领域，尤其涉及一种服务集群的流量控制方法及系统、流量控制方法及装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

微服务是众多企业构建软件服务的常用方式，目前常用于多机房、高并发、多服务、多租户的复杂场景，微服务可以承载来自调用端(租户客户端)的访问请求，并对访问请求进行处理后反馈结果。但是，当请求量超过微服务的负载时，会对系统稳定性造成损害，因此可以通过限流的方式来保障微服务的稳定性。

相关技术中，微服务的服务端通常包括多个服务实例，并由多个服务实例来对海量访问请求进行处理，限流的方式是通过引入远端的统计中心(如远程字典服务)来进行访问请求次数的统计，并根据统计结果进行限流。具体的，服务实例每接收一次调用端的访问请求，都会请求统计中心以进行计数累加，并在单位时间内该服务端的所有服务实例的总访问计数之和，超过预先设置的总配额计数时，服务实例进行限流，即停止处理当前的访问请求以及后续调用端发送的访问请求。

但是，目前方案中，由于服务实例每接收到一个访问请求，都请求一次统计中心，并根据请求的结果确定是否处理该访问请求，使得在高并发、多租户的微服务场景下，会使得统计中心的负载压力非常大，导致统计中心的稳定性变差、延迟变高，从而进一步提高了调用端获取处理结果的延迟，降低了服务质量。

发明内容

本申请实施例提供一种服务集群的流量控制方法及系统、流量控制方法及装置、电子设备、计算机可读存储介质及计算机程序产品，以解决相关技术中在高并发、多租户的微服务场景下，会使得统计中心的负载压力非常大的问题。

第一方面，本申请实施例提供了一种流量控制方法，应用于服务集群中的服务端，所述服务集群还包括：限流处理端和调用端，针对一个服务端分配有至少一个调用端；一个服务端和对应的一个调用端构成一个调用链，所述方法包括：

在当前的工作时间段，统计所述调用链中的每个服务实例的流量累计值，并根据所述流量累计值执行对所述服务实例的流量控制操作；

向所述限流处理端发送流量值处理请求，所述流量值处理请求包括所述当前的工作时间段中所述调用链的每个服务实例的流量累计值，所述流量值处理请求用于：请求所述限流处理端通过待分配流量总额的剩余额度，为所述流量累计值分配流量抵消值，所述流量累计值用于与所述流量抵消值相减得到处理结果；

根据所述限流处理端发送的所述处理结果，执行下一工作时间段对所述调用链的流量控制操作。

在一种可选实现方式中，所述根据所述流量累计值执行对所述服务实例的流量控制操作，包括：

获取所述调用链的流量配额值；所述服务端包括至少一个服务实例，所述服务实例用于实现所述服务端所提供的服务；

根据所述服务端包含的服务实例的数量、所述服务实例一个工作时间段的持续时长，以及包含所述服务端的多个调用链各自对应的流量配额值，计算每个所述调用链对应的流量预警值，所述流量预警值用于表征所述调用链中每个服务实例的最大处理流量；

在当前的工作时间段，若所述调用链中服务实例的流量累计值超过所述调用链对应的流量预警值，则所述服务端对所述服务实例进行限流。