[发明专利]基于微服务网关动态流控的访问方法和装置以及设备

说明书

本发明公开了一种基于微服务网关动态流控的访问方法，所述方法包括：响应于服务运行时，检测所述服务所对应的应用服务器的状态；判断所述应用服务器的状态为健康时，所述服务实时根据内存空间的预估使用量生成数量不定的令牌，并将所述令牌存入令牌池中对应的令牌桶；响应于网关接收到外部访问请求时，基于所述网关中的URL确定所述访问请求路由至相对应的服务；监听所述服务的状态是在线时，根据所述服务标识号以及所述网关中当前存储的服务版本号至对应的令牌桶中请求获取令牌，否则，所述网关返回访问失败；判断是否获取令牌成功，若是，则所述访问请求通过所述令牌访问对应的所述服务；否则，所述网关返回访问失败。

技术领域

本发明涉及通信技术领域，尤其涉及一种基于微服务网关动态流控的访问方法和装置以及设备。

背景技术

随着软件行业的蓬勃发展，目前大多数公司在进行软件应用开发时，通常会选用微服务的架构风格，内部的组件相互独立，通过API进行通信，而外部请求需要由网关统一接收再路由到内部。任意时间到来的请求往往是随机且不可控制的，而内部系统的处理能力是有限的，需要在网关进行流量管控能够更好地保护整个系统的稳定性。目前行业内的企业在设计网关流控时，通常是使用令牌桶算法，针对每一个业务组件静态配置对应的流控规则。而采用静态网关流控方法存在以下缺点：

1、每个服务的服务能力不同，对应每个服务的静态流控规则配置不同，所以规则的配置需要经过性能测试评估并结合过去长时间的经验积累综合得出预估值，这样需要付出大量的时间和人力成本；

2、软件部署服务器性能不一致，或者服务器由于处理器升级、内存扩容等原因导致服务器性能提升，都有可能造成原有的流控规则不再准适用，进而引发性能浪费或者安全问题。

发明内容

有鉴于此，本发明的目的在于提出一种基于微服务网关动态流控的访问方法和装置以及设备，能够减少由于配置流控规则而付出大量的人力成本和时间成本，并且避免软件部署在不同服务器而引发的性能或安全问题。

为实现上述目的，本发明提供一种基于微服务网关动态流控的访问方法，所述方法包括：

响应于服务运行时，检测所述服务所对应的应用服务器的状态；

判断所述应用服务器的状态为健康时，所述服务实时根据内存空间的预估使用量生成数量不定的令牌，并将所述令牌存入令牌池中对应的令牌桶，其中，所述令牌包括对应所述服务的服务标识号和当前服务版本号；判断所述应用服务器的状态为不健康时，所述服务不生成令牌；

响应于网关接收到外部访问请求时，基于所述网关中的URL确定所述访问请求路由至相对应的服务，其中，所述访问请求至少含有所述服务的服务标识号；

监听所述服务的状态是在线时，根据所述服务标识号以及所述网关中当前存储的服务版本号至对应的令牌桶中请求获取令牌，否则，所述网关返回访问失败；

判断是否获取令牌成功，若是，则所述访问请求通过所述令牌访问对应的所述服务；否则，所述网关返回访问失败。

优选的，在所述响应于服务运行时，检测所述服务所对应的应用服务器的状态之前，还包括：

响应于所述服务启动时的初始状态下，获取所述应用服务器的最大可执行线程数maxThreads，且所述服务根据每1秒生成固定数量maxThreads的令牌存入对应的令牌桶。

优选的，所述监听所述服务的状态是离线或奔溃时，移除所述网关中所述服务对应的服务版本号以及所述令牌池中所述服务对应的令牌桶，且停止请求获取对应所述服务的令牌。

优选的，所述服务根据内存空间的预估使用量实时生成数量不定的令牌，并将所述令牌存入令牌池中对应的令牌桶，还包括：