[发明专利]硬件实现的负载平衡

说明书

提供一种服务器系统，其包括多个服务器，每个服务器包括至少一个硬件加速设备和至少一个处理器，该至少一个处理器由内部数据总线通信地耦合到硬件加速设备并执行主机服务器实例，多个服务器的主机服务器实例共同提供软件平面，多个服务器的硬件加速设备共同提供实现多个硬件加速服务的硬件加速平面，其中每个硬件加速设备在存储器中维护包含负载数据的数据结构，该负载数据指示多个目标硬件加速设备中的每个目标硬件加速设备的负载，并且其中请求硬件加速设备将该请求路由到目标硬件加速设备，该目标硬件加速设备由数据结构中的负载数据指示为具有比其他目标硬件加速设备更低的负载。

本申请是于2017年12月20日向国际局提出、优先权日为2017年1月17日、于2019年7月15日进入中国国家阶段、国家申请号为201780083496.5、发明名称为“硬件实现的负载平衡”的中国发明专利申请的分案申请。

背景技术

服务器系统使用负载平衡过程来将请求定向到服务器系统中负载较少的服务器，以在处置大量请求时提高效率。许多当前的负载平衡解决方案是软件驱动的，并且用相对陈旧的负载数据来执行负载平衡过程。因此，当根据这些负载平衡过程将请求路由到服务器时，到请求到达该服务器时，该服务器上的负载可能已经增加超过了由软件驱动的负载平衡器基于陈旧负载数据所计算出的负载，导致该服务器无法及时服务该请求。

发明内容

为了解决上述问题，提供了一种用于硬件实现的负载平衡的服务器系统。服务器系统可以包括多个服务器，每个服务器包括至少一个硬件加速设备和至少一个处理器，该至少一个处理器由内部数据总线通信地耦合到硬件加速设备并执行主机服务器实例，多个服务器的主机服务器实例共同提供软件平面，并且多个服务器的硬件加速设备共同提供实现多个硬件加速服务的硬件加速平面，其中每个硬件加速设备在存储器中维护包含负载数据的数据结构，该负载数据指示实现多个硬件加速服务中的指定硬件加速服务的多个目标硬件加速设备中的每个目标硬件加速设备的负载，并且其中当请求硬件加速设备路由对指定硬件加速服务的请求时，请求硬件加速设备将请求路由到目标硬件加速设备，目标硬件加速设备由数据结构中的负载数据指示为具有比其他目标硬件加速设备更低的负载。

提供本发明内容是为了以简化的形式介绍一些概念，这些概念将在下面的具体实施方式中进一步描述。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。此外，所要求保护的主题不限于解决在本公开的任何部分中提到的任何或所有缺点的实现。

附图说明

图1是示出本说明书的示例服务器系统的示意图。

图2是示出图1的示例服务器系统的服务器集群的示意图。

图3是图1的示例服务器系统的示例硬件加速设备的示意图。

图4是示出对图1的示例服务器系统的硬件加速服务的示例请求的示意图。

图5继续对图4的硬件加速服务的示例请求。

图6是图示多步骤请求的图1的服务器系统的示意图。

图7是用于基于硬件的负载平衡的示例方法的流程图，该示例方法可以使用图1的此服务器系统或其他合适的服务器系统硬件来实现。

图8是示出图7的方法的附加步骤的另一流程图。

图9是可以在图1的服务器系统中使用的示例性计算机硬件的示意图。

具体实施方式