[发明专利]服务过载的处理方法、装置、电子设备及存储介质

说明书

本公开关于一种服务过载的处理方法、装置、电子设备及存储介质,其中方法通过获取系统的资源数据和系统在当前时刻的当前负载信息，并根据资源数据和当前负载信息之间的大小关系，计算系统在下一时刻的服务请求阈值，当系统在下一时刻接收到服务调用请求时，若系统的并发服务请求数小于服务请求阈值，则根据服务调用请求进行相应的服务调用，若系统的并发服务请求数大于或等于服务请求阈值，则丢弃服务调用请求。从而实现对服务请求阈值的动态调整，不仅避免了人工设置服务请求阈值准确性不高的问题，且基于该动态的服务请求阈值，既可以保证系统能够容忍适时的突发流量尖峰，也可以保证系统能够在不超过自身处理能力的情况下最大程度的提供服务。

技术领域

本公开涉及互联网技术领域，尤其涉及一种服务过载的处理方法、装置、电子设备及存储介质。

背景技术

RPC(Remote Procedure Call Protocol，远程过程调用协议)指的是分布式系统架构中不同系统之间的远程通信和相互调用，其中，不同系统之间的调用包括不同系统中服务之间的调用。

如果一个系统接收到的RPC请求数过多，超出自己的处理能力时，则会发生过载。对于该系统而言，目前一般通过阈值的方式进行过载保护，然而，目前在过载保护机制中阈值一般需要凭借人的经验来设置，但如果设置得过大，则达不到过载保护的作用，如果设置得过小则会过于敏感，从而导致短时的突发流量尖峰下的RPC请求被错误地丢弃。因此，在目前的过载保护机制中，如何设置合理的阈值至关重要。

发明内容

本公开提供一种服务过载的处理方法、装置、电子设备及存储介质，以至少解决相关技术中在过载保护机制如何合理设置阈值的问题。本公开的技术方案如下：

根据本公开实施例的第一方面，提供一种服务过载的处理方法，所述方法包括：

获取分布式系统架构中提供服务的系统的资源数据和所述系统在当前时刻的当前负载信息，根据所述资源数据和当前负载信息之间的大小关系，计算所述系统在下一时刻的服务请求阈值；

当系统在下一时刻接收到服务调用请求时，若系统的并发服务请求数小于所述服务请求阈值，则根据所述服务调用请求进行相应的服务调用；

若系统的并发服务请求数大于或等于所述服务请求阈值，则丢弃所述服务调用请求。

在其中一个实施例中，系统的资源数据包括所述系统的CPU核数，所述系统在当前时刻的当前负载信息包括所述系统当前正在执行的任务数量；所述获取系统的资源数据和所述系统在当前时刻的当前负载信息，根据所述资源数据和当前负载信息之间的大小关系，计算所述系统在下一时刻的服务请求阈值，包括：若所述系统当前正在执行的任务数量大于所述系统的CPU核数，则减小所述系统在当前时刻的当前服务请求阈值，得到所述系统在下一时刻的服务请求阈值；若所述系统当前正在执行的任务数量小于所述系统的CPU核数，则增大所述系统在当前时刻的当前服务请求阈值，得到所述系统在下一时刻的服务请求阈值；若所述系统当前正在执行的任务数量等于所述系统的CPU核数，则将所述系统在当前时刻的当前服务请求阈值作为所述系统在下一时刻的服务请求阈值。

在其中一个实施例中，根据所述资源数据和当前负载信息之间的大小关系，计算所述系统在下一时刻的服务请求阈值，包括：获取所述系统在当前时刻的当前并发服务请求数以及当前服务请求阈值；根据第一设定值和所述系统的资源数据、所述系统在当前时刻的当前负载信息以及当前服务请求阈值，计算所述系统在下一时刻的服务请求阈值的第一估计值，所述第一设定值用于表征梯度下降算法中的学习率，用于计算并限定所述第一估计值的大小；根据第二设定值和所述系统在当前时刻的当前并发服务请求数，计算所述系统在下一时刻的服务请求阈值的第二估计值，所述第二设定值用于表征梯度下降算法中的伸缩率，用于计算并限定所述第二估计值的大小；提取所述系统在下一时刻的服务请求阈值的第一估计值和第二估计值中的最小值，将所述最小值作为所述系统在下一时刻的服务请求阈值。