[发明专利]硬件实现的负载平衡

权利要求书

1.一种服务器系统，包括：

多个服务器，每个服务器包括至少一个硬件加速设备和至少一人处理器，所述至少一个处理器由内部数据总线通信地耦合到所述硬件加速设备并执行主机服务器实例，所述多个服务器的所述主机服务器实例共同提供软件平面，并且所述多个服务器的所述硬件加速设备共同提供实现多个硬件加速服务的硬件加速平面；

其中每个硬件加速设备收集来自其他服务器的其他硬件加速设备的负载数据，并且在所述硬件加速设备的相应服务器的存储器中维护包含所述负载数据的数据结构，所述负载数据指示实现所述多个硬件加速服务中的指定硬件加速服务的多个目标硬件加速设备中的每个目标硬件加速设备的负载；并且

其中当请求硬件加速设备路由对所述指定硬件加速服务的请求时，所述请求硬件加速设备将所述请求路由到目标硬件加速设备，所述目标硬件加速设备由所述请求硬件加速设备的相应服务器的所述数据结构中的所述负载数据指示为具有比所述目标硬件加速设备中的其他目标硬件加速设备更低的负载。

2.根据权利要求1所述的服务器系统，其中对所述指定硬件加速服务的所述请求源自所述多个主机服务器实例的请求主机服务器实例；并且

其中所述请求硬件加速设备由所述内部数据总线耦合到执行所述请求主机服务器实例的所述处理器，并且所述请求硬件加速设备读取所述请求并且将所述请求路由到所述目标硬件加速设备。

3.根据权利要求1所述的服务器系统，其中所述请求是对多个指定硬件加速服务的多步骤请求，并且所述指定硬件加速服务是所述多个指定硬件加速服务中的下一指定硬件加速服务；并且

其中所述请求硬件加速设备从另一硬件加速设备接收所述多步骤请求，实现所述多个指定硬件加速服务中的一个指定硬件加速服务，并且将所述多步骤请求路由到实现所述下一指定硬件加速服务的所述目标硬件加速设备。

4.根据权利要求1所述的服务器系统，还包括多个服务器集群，每个服务器集群包括机架顶部网络交换机、所述多个服务器中的两个或更多个服务器、以及通信地耦合所述机架顶部网络交换机和所述两个或更多个服务器的背板；

其中服务器集群中的所述两个或更多个服务器的每个硬件加速设备实现所述多个硬件加速服务中的相同硬件加速服务，并且每个硬件加速设备维护所述数据结构的相应实例，所述数据结构还包含近实时负载数据，所述近实时负载数据指示所述服务器集群中的每个其他硬件加速设备的近实时负载。

5.根据权利要求4所述的服务器系统，其中当所述多个服务器集群中的服务器集群中的接收硬件加速设备从所述请求硬件加速设备接收到所述请求时，所述接收硬件加速设备基于所述数据结构的近实时负载数据来确定所述接收硬件加速设备的当前负载是否高于以下中的至少一项：阈值负载值或所述服务器集群中实现所述相同硬件加速服务的另一硬件加速设备的当前负载，并且

至少基于所述确定，所述接收硬件加速设备将所述请求重定向到所述服务器集群中的另一硬件加速设备，所述数据结构的近实时负载数据指示所述另一硬件加速设备具有比所述服务器集群中的其他硬件加速设备更低的负载。

6.根据权利要求1所述的服务器系统，其中当所述请求硬件加速设备将对所述指定硬件加速服务的所述请求路由到所述目标硬件加速设备时，所述请求硬件加速设备基于所述请求的一个或多个属性来更新所述请求硬件加速设备的数据结构中的针对所述目标硬件加速设备的负载数据。

7.根据权利要求6所述的服务器系统，其中所述请求的所述一个或多个属性选自由以下各项组成的组：所述请求的大小、指定硬件加速服务的类型、实现所述指定硬件加速服务的历史时间、针对所述目标硬件加速设备的历史数据、以及所述请求的分组数据。

8.根据权利要求1所述的服务器系统，其中当接收硬件加速设备从所述请求硬件加速设备接收请求时，所述接收硬件加速设备用包括负载数据的消息来响应，所述负载数据指示所述接收硬件加速设备的当前负载。