[发明专利]API网关的请求控制方法、装置、设备和可读存储介质

说明书

本申请公开了一种API网关的请求控制方法、装置、设备和可读存储介质，方法包括：根据预先设置的令牌环大小以及各个服务优先级对应的优先级权重，采用散列均衡法生成服务优先级令牌环，以使各个服务优先级的令牌散列均匀分布在服务优先级令牌环上；以服务请求队列形式存放API网关的所有服务请求，其中各服务请求根据自身的请求优先级等级值分别存放至服务请求队列里服务优先级匹配的服务请求子队列中；按照服务优先级令牌环上的令牌对应的服务优先级顺序，依次从服务请求队列里服务优先级一致的服务请求子队列中提取并响应服务请求。本申请可有效的平衡各项服务请求的处理效率，使API网关的各服务优先级的服务请求均能获得稳定服务响应。

技术领域

本申请涉及微服务技术领域，更具体地说，涉及API网关的请求控制方法、装置、设备和可读存储介质。

背景技术

微服务架构是目前云原生环境下主流开发模式，Restful API网关则是微服务架构中的核心组件，主要完成所有微服务请求路由和访问控制，提供隔离、熔断、服务降级等服务治理能力，但未提供服务优先级策略控制能力，不能对不同重要紧急程度的服务请求区别响应，以保障重要业务能够更快的获得资源和响应，提升关键业务事务成功率。

虽然HTTP2.0协议支持请求优先级，为每类资源请求设置优先级等级，服务端可根据HTTP设置的优先级等级信息按照服务优先级等级由高到低进行服务请求响应，但高服务优先级请求较多则会阻塞低服务优先级资源的交互，引起低优先级请求无法获得服务的问题。

发明内容

有鉴于此，本申请提供了一种API网关的请求控制方法、装置、设备和可读存储介质，可有效的平衡各项服务请求的处理效率，有效避免现有技术中高服务优先级服务请求较多或高服务优先级的响应慢导致低服务优先级服务请求阻塞的问题，使API网关的各服务优先级的服务请求均能获得稳定服务响应。

一种API网关的请求控制方法，包括：

根据预先设置的令牌环大小以及各个服务优先级对应的优先级权重，采用散列均衡法生成服务优先级令牌环，以使所述各个服务优先级的令牌散列均匀分布在服务优先级令牌环上；

以服务请求队列形式存放API网关的所有服务请求，其中各所述服务请求根据自身的请求优先级等级值分别存放至所述服务请求队列里服务优先级匹配的服务请求子队列中；

按照所述服务优先级令牌环上的令牌对应的服务优先级顺序，依次从所述服务请求队列里服务优先级一致的服务请求子队列中提取并响应所述服务请求。

可选的，采用散列均衡法生成服务优先级令牌环，包括：

根据所述各个服务优先级对应的优先级权重计算得到的所述各个服务优先级的各个令牌间距；

按照重要程度由低到高的服务优先级顺序，依次在初始服务优先级令牌环中设置所述各个服务优先级的令牌，直至所述初始服务优先级令牌环的全部单元均填满，得到所述服务优先级令牌环，所述服务优先级令牌环中相同服务优先级的令牌均匀放置且两两间距满足所述各个服务优先级的各个令牌间距。

可选的，根据所述各个服务优先级对应的优先级权重计算得到的所述各个服务优先级的各个令牌间距，包括：

将所述各个服务优先级对应的优先级权重的倒数确定为所述各个服务优先级的各个令牌间距。

可选的，对于一个服务优先级，在所述服务优先级令牌环中设置令牌的过程，包括：

确定所述服务优先级令牌环中与所述服务优先级对应的令牌起始单元以及每间隔与所述服务优先级对应的令牌间距的单元；

对所述令牌起始单元以及每间隔与服务优先级对应的令牌间距的单元进行空闲检测，以确定单元中是否已设置有令牌；

在未设置有令牌的空闲单元，以及在已设置有令牌的单元的下一个空闲单元设置所述服务优先级的令牌。