[发明专利]一种服务熔断器、服务熔断方法以及计算机可读存储介质

说明书

本发明涉及一种服务熔断器、服务熔断方法以及计算机可读存储介质。其中，熔断器包括收发模块，熔断器利用收发模块与服务请求方进行通信；熔断判别器，其用于根据熔断器的状态以及所述状态下的统计信息确定是否允许服务请求方向服务提供方发起的服务请求，并经由收发模块通知服务请求方；以及熔断更新器，其用于根据熔断器的状态以及所述状态下的统计信息来更新熔断器的状态，其中所述状态下的统计信息包括经由收发模块接收的服务提供方对服务请求方的服务请求的响应情况。

技术领域

本发明涉及一种服务熔断器、服务熔断方法以及计算机可读存储介质，具体而言，涉及一种及时发现和熔断异常服务的机制。

背景技术

在微服务架构里各服务按功能划分、分布式部署，进而实现了更高的隔离性、灵活性和动态可扩展性。各服务处理能力和处理的业务不同，能够支持的负载各不相同，因而需要引入熔断机制，以便及时地发现和熔断异常服务，防止部分服务异常导致整个系统不可用的服务“雪崩效应”。

为了发现和熔断异常服务，业界常见的做法分为如下几类：1、如果服务错误应答比例超过阈值，则熔断服务，然后使用异步健康探测恢复服务；2、使用熔断服务集群，根据各节点上送信息更新熔断列表，并同步至熔断集群所有节点；3、根据服务响应时间计算滑动平均值，得出熔断指数，达到熔断条件时熔断对端节点。

发明内容

然而，现有技术存在如下问题一种或多种：判断条件比较单一，只考虑了错误应答比例，未考虑超时应答或未应答的情况；另一方面，基于健康探测恢复服务不够及时。若使用熔断服务集群则会增加了系统复杂度，从而会增加运维成本并引入新的风险点，熔断信息由业务节点上送过程中也可能发生丢失、延时。熔断集群内信息同步也需要时间，导致熔断和恢复不够及时。若采用响应时间滑动平均值得出熔断指数，由于滑动平均值的慢启动和滞后性，熔断器需要一定预热时间，并且在某一服务突然故障时无法及时熔断，导致问题加剧。

此外，以上几种方法在达到熔断条件后即将异常服务在一定时限内完全隔离，但是此服务有可能仍可以处理部分请求，简单地在设定的时间窗口将异常服务请求降为零并不利于系统整体服务能力，也不能够在异常服务恢复后及时解除熔断。

为了解决上文提出的一种或多种问题，本申请提出了一种高效地发现异常服务并进行弹性熔断的机制，具体而言：

根据本发明的一方面，提供一种服务熔断器，其包括：收发模块，所述熔断器利用所述收发模块与服务请求方进行通信；熔断判别器，其用于根据所述熔断器的状态以及所述状态下的统计信息确定是否允许所述服务请求方向服务提供方发起的服务请求，并经由所述收发模块通知所述服务请求方；以及熔断更新器，其用于根据所述熔断器的状态以及所述状态下的统计信息来更新所述熔断器的状态，其中所述状态下的统计信息包括经由所述收发模块接收的所述服务提供方对所述服务请求方的所述服务请求的响应情况。

可选地，在本申请的一些实施例中，所述服务提供方对所述服务请求方的所述服务请求的响应情况包括正常响应、未响应以及超时响应。

可选地，在本申请的一些实施例中，所述熔断器的状态包括关闭状态、半开启状态、开启状态，其中：当所述熔断器处于关闭状态时，所述熔断判别器允许所述服务请求；当所述熔断器处于半开启状态时，所述统计信息包括半开启计时，若所述半开启计时未超过第一时限，则所述熔断判别器以第二概率允许所述服务请求；若所述半开启计时超过所述第一时限，则所述熔断器允许所述服务请求；以及当所述熔断器处于开启状态时，所述统计信息包括开启计时，若所述开启计时未超过第二时限，则所述熔断判别器以第一概率允许所述服务请求；若所述开启计时超过所述第二时限，则所述熔断器允许所述服务请求。