[发明专利]一种限流方法及装置

权利要求书

1.一种限流方法，其特征在于，包括：

在系统状态发生变化时，获取服务响应时延；所述服务响应时延为设定时间周期内系统响应一次服务请求所用的平均时延；

在所述服务响应时延超过预设时延时，按预设规则调整周期分发令牌数直至所述服务响应时延达到所述预设时延；所述周期分发令牌数用于指示所述系统在一个周期内处理的服务请求的数量；所述预设规则为波浪式调整所述周期分发令牌数且在每个波段中所述周期分发令牌数的减少量大于所述周期分发令牌数的增加量；所述按预设规则调整周期分发令牌数直至所述服务响应时延达到所述预设时延，包括：

在M个周期内减少所述周期分发令牌数直至所述服务响应时延达到或低于所述预设时延，其中，第M-1个周期的周期分发令牌数与第M个周期的周期分发令牌数的差值为第一令牌数；M为大于1的正整数；

在所述服务响应时延低于所述预设时延时，根据所述第一令牌数和预设周期数N按周期增加所述周期分发令牌数直至所述服务响应时延超过或达到所述预设时延；N为大于1的正整数；

在所述服务响应时延超过所述预设时延时，返回在M个周期内减少所述周期分发令牌数直至所述服务响应时延达到或低于所述预设时延的步骤；

根据所述第一令牌数和预设周期数N按周期增加所述周期分发令牌数，包括：

根据所述第一令牌数和所述预设周期数N的比值确定每个周期的周期分发令牌增加数；

在所述第一令牌数能够被N整除，且前N-1个周期的服务响应时延低于所述预设时延时，将第N个周期的周期分发令牌增加数分配到至少两个周期内，以在所述至少两个周期内逐步增加每个周期的周期分发令牌数，直至所述服务响应时延超过或达到所述预设时延；所述至少两个周期是将所述第N个周期进行拆分确定的；所述至少两个周期内的周期分发令牌数是采用波浪式的方式调整的。

2.如权利要求1所述的方法，其特征在于，获取服务响应时延后，还包括：

在所述服务响应时延未超过所述预设时延，且所述周期分发令牌数小于周期请求令牌数时，增加所述周期分发令牌数，直至所述服务响应时延超过或达到所述预设时延，或，所述周期分发令牌数不小于所述周期请求令牌数时为止；周期响应令牌数与所述系统在该周期内收到的服务请求数量相对应。

3.如权利要求2所述的方法，其特征在于，在所述服务响应时延未超过所述预设时延，且所述周期分发令牌数小于周期请求令牌数时，增加所述周期分发令牌数，包括：

在所述服务响应时延未超过所述预设时延，且所述周期分发令牌数小于周期请求令牌数时，指数级或对数级增加所述周期分发令牌数。