[发明专利]远程调用自适应负载均衡方法、装置、系统及计算机装备

说明书

本发明涉及一种保证整个集群的资源最合理利用的远程调用自适应负载均衡方法、装置、系统及计算机装备。本发明提供的远程调用自适应负载均衡方法，包括如下步骤：获取并更新各服务节点的负载信息；根据所述负载信息发送RPC请求。本发明提供的远程调用自适应负载均衡方法可以获取各服务节点的负载信息，能够保证了解各个服务节点的负载状态，根据得到的负载信息对服务节点发送RPC请求，实现能够较好的在服务节点间选择合适的服务节点提供服务，避免出现服务短板，使得整个RPC集群的资源达到合理利用。

技术领域

本发明涉及信息系统技术领域，尤其涉及一种远程调用自适应负载均衡方法、装置、系统及计算机装备。

背景技术

远程过程调用（RPC，Remote Procedure Call）是指在客户机上通过网络的方式将一个请求（含调用的方法名称、输入参数等）发送到服务端，在服务端经过运算处理后，由服务端再将请求传送回客户端的技术。根据客户端和服务端的开发语言是否一样，可以分为同语言的远程调用，如Java RMI（Remote Method Invocation）；及跨语言远程调用，如gRPC和Thrift。

目前已有的远程过程调用在单节点模式下均能很好地工作。在大并发分布式环境下面，为了解决大量请求投入而造成的单节点负担过重，一般都会采用负载均衡的方法让多个远程服务节点去并发地处理客户端请求。

目前的负载均衡手段主要是通过负载均衡器去对客户端传入的RPC请求进行分发，常见的负载均衡器有软件实现（如Nginx），也有硬件实现（如F5、A10）。

这些负载均衡器能满足大部分的RPC场景，但也存在着局限：

（1）当负载均衡器后方的RPC服务提供者资源不对称时，性能差的服务器将成为整个服务的短板，而性能优越的服务器性能又得不到充分的发挥。其原因是负载均衡器对后方服务提供者的性能并不感知，一般采用随机的方式，或对请求进行哈希散列的方式把RPC请求分布到RPC提供者，而这些方式基本上是均分的。对性能差的RPC提供者而言，在负载重的情况下将积压大量的请求，响应时间变长，从而成为整个服务的短板。

（2）新引入的负载均衡器其自身在很多场景下就是一个单点故障点，虽然可以通过虚拟IP（VIP）等方式解决此问题，但负载均衡器的引入将延长RPC调用链路，增加服务响应时间。

发明内容

基于此，有必要提供一种保证整个集群的资源最合理利用的远程调用自适应负载均衡方法、装置、系统及计算机装备。

本发明提供一种远程调用自适应负载均衡方法，包括如下步骤：

获取并更新各服务节点的负载信息；

根据所述负载信息发送RPC请求。

优选地，所述获取并更新各服务节点的负载信息具体为：在其中一个服务节点获取各个服务节点的负载信息，或，

所述获取并更新各服务节点的负载信息具体为：各个服务节点定时向其他服务节点发送本服务节点的负载信息，各个服务节点具有记载各节点负载信息的拓扑表，并在获取其他服务节点的负载信息后，更新其拓扑表，在其中一个服务节点获取各个服务节点的负载信息。

优选地，所述负载信息包括负载值，所述发送RPC请求之前还包括如下步骤：

根据所述负载值的大小将所述将各服务节点依次分为多个区间；

随机生成一个随机数值，并判断所述随机数值落入的区间；

根据所述各服务节点的负载信息发送RPC请求具体为：对随机数值落入的区间的负载值最小值对应的服务节点发送RPC请求；

所述随机数值的范围满足如下关系式：0≤随机数值＜负载值_n，所述负载值_n为各服务节点的负载值最小值；