[发明专利]基于令牌桶的请求管理方法、装置、设备及存储介质

说明书

本发明公开了一种基于令牌桶的请求管理方法、装置、设备及存储介质，属于通信领域。本发明中，方法包括以下步骤：接收到请求信息时，从第一令牌桶提取令牌；其中，所述第一令牌桶根据预设周期进行更新，以使进入每个预设周期时，所述第一令牌桶内令牌的数量等于第一预设值；若提取到令牌，响应所述请求信息执行相应操作。本发明中，令牌的数量不受到令牌填充速率的影响，从而在不超过TPS的情况下，提高令牌桶响应请求的速率。

技术领域

本发明涉及通信领域，尤其涉及一种基于令牌桶的请求管理方法、装置、设备及程序产品。

背景技术

相关技术中，高并发情况下大量数据通过网关进入系统，导致系统负载压力过大，需要高效的流量限制服务来解决。令牌桶技术(Token Bucket)是一种常见的流量测量技术，常用于流量的限制和流量的整形，能够对流量的速率和突发进行测量。

但是令牌桶技术中面对持续时长较长的高并发流量时，请求难以及时从令牌桶提取到令牌。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种基于令牌桶的请求管理方法、装置、设备及存储介质，旨在解决在持续时长较长的高并发流量时，请求难以及时从令牌桶提取到令牌的技术问题。

为实现上述目的，第一方面，本发明提供一种基于令牌桶的请求管理方法，包括以下步骤：

接收到请求信息时，从第一令牌桶提取令牌；其中，所述第一令牌桶根据预设周期进行更新，以使进入每个预设周期时，所述第一令牌桶内令牌的数量等于第一预设值；

若提取到令牌，响应所述请求信息执行相应操作。

在一实施例中，所述接收到请求信息时，从第一令牌桶提取令牌的步骤之前，所述方法还包括：

接收请求信息，并根据接收到所述请求信息的时间数据，计算出消息接收间隔；

若所述消息接收间隔大于预设阈值，从第二令牌桶提取令牌；其中，所述第二令牌桶根据预设速率填充令牌；

所述接收到请求信息时，从第一令牌桶提取令牌的步骤，包括：

若所述消息接收间隔小于或者等于预设阈值，从第一令牌桶提取令牌。

在一实施例中，所述根据接收到所述请求信息的时间数据，计算出消息接收间隔的步骤包括：

根据接收到所述请求信息的时间数据，计算得到所述请求信息与上一请求信息的当前消息接收间隔；

根据所述当前消息接收间隔、前预设数量个历史请求信息的平均消息接收间隔、第一个历史请求信息和第二个历史请求信息的第一消息接收间隔和预设公式，获得所述消息接收间隔；

其中，所述预设公式为：

其中，AVE为所述消息接收间隔，T_average为平均消息接收间隔，n为历史请求信息的数量，T₁为所述第一消息接收间隔，T_in为所述当前消息接收间隔。

在一实施例中，所述若所述消息接收间隔大于预设阈值，从第二令牌桶提取令牌的步骤之后，所述方法还包括：

若没有提取到令牌，判断缓冲队列的长度是否达到额定最大长度；其中，所述缓冲队列与所述第二令牌桶相关联；

若所述缓冲队列未达到所述额定最大长度，将所述请求信息保存至缓冲队列中；

在满足触发条件时，将所述请求信息取出，并返回至若所述消息接收间隔大于预设阈值，从第二令牌桶提取令牌的步骤。