[发明专利]一种API网关负载均衡方法及API网关

说明书

本发明涉及一种API网关负载均衡方法及API网关。该方法包括下述步骤：根据服务实例API的响应时间将服务实例API划分为高性能区和低性能区，高性能区的响应时间小于低性能区的响应时间；高性能区的服务实例API处于正常调用状态，低性能区的服务实例API处于限制调用状态，限制调用状态指服务实例API经预设时间后被调用。本发明将服务实例API划分为高性能区和低性能区，减少响应时间较长的服务实例API对整体的影响，从而提高正常响应服务实例API的服务体验。

技术领域

本发明涉及API网关领域，更具体地说，涉及一种API网关负载均衡方法及API网关。

背景技术

云技术的发展改变了传统的企业应用软件开发模式，大型的烟囱式企业应用正在向基于微服务架构转变。基于微服务架构的系统是由多个服务单元构建而成，服务间彼此配合、相互协作以实现最终价值，为提高系统的并发性与强壮性,服务间的负载均衡显得尤为重要。

传统的负载均衡算法包括：轮询(Round Robin)、加权轮询(Weighted RoundRobin)、随机法(Random)、源地址散列(Source Hashing)、最小连接数法(LeastConnections)、最快响应(Fastest)等，实际应用中发现这些算法存在不足的地方：

轮询、随机法、源地址散列算法：没有考虑服务器配置不同，服务器性能差异大的情况，容易出现服务集群木桶短板效应，出现服务响应时间多数满足响应时间要求，部分响应时间太长，达不到服务质量(QoS)要求。

加权轮询法：权重是静态的，合适的权重难设置，对于动态增加服务实例的情况，更无法设置合适的权重。

最小连接数法(Least Connections)：计算连接数实现难度大，并且额外消耗较多性能。

最快响应(Fastest)：要做到选择最快响应实例，需要额外消耗较多服务器性能。

由此可知，现有负载均衡算法在消除响应较慢服务实例API方面表现不好，导致响应较慢服务实例API拖累整体响应速度，多数用户体验差。

发明内容

本发明要解决的技术问题在于，提供一种API网关负载均衡方法及API网关。

本发明解决其技术问题所采用的技术方案是：构造一种API网关负载均衡方法，包括下述步骤：

根据服务实例API的响应时间将所述服务实例API划分为高性能区和低性能区，所述高性能区的响应时间小于所述低性能区的响应时间；

所述高性能区的服务实例API处于正常调用状态，所述低性能区的服务实例API处于限制调用状态，所述限制调用状态指服务实例API经预设时间后被调用。

进一步，本发明的API网关负载均衡方法还包括步骤：

所述高性能区的服务实例API按照轮询法调用。

进一步，本发明的API网关负载均衡方法还包括步骤：

所述高性能区的服务实例API调用后判断本次响应时间是否小于阈值时间，若否则将所述服务实例API转移至所述低性能区。

进一步，本发明的API网关负载均衡方法还包括步骤：所述低性能区的服务实例API调用后判断本次响应时间是否小于阈值时间；

若是，则将所述服务实例API转移至所述高性能区；

若否，则重新开始计时且延长所述预设时间。

进一步，在本发明的API网关负载均衡方法中，所述阈值时间为所述高性能区所有所述服务实例API的响应时间的平均值。

进一步，本发明的API网关负载均衡方法还包括步骤：