[发明专利]用于控制水平扩展软件应用中的利用率的方法和装置

说明书

技术领域

本发明大体上涉及分布式处理，具体地，涉及水平扩展(horizontally scaled)处理系统。

背景技术

在本文设想的类型的水平扩展系统中，在多个对等应用实例中实现整个软件应用，每一个对等应用实例提供了应用的整个功能并且每一个对等应用实例表示总应用容量或性能能力的一部分。然而，用于管理来自客户端池的应用业务的现有解决方案基于通常对于水平扩展系统不成立的大量假设。

这种操作源自以下传统假设：在单个实例中执行针对客户端池的业务控制，例如，通过单个硬件服务器建立整个系统，并且通过单个点来路由所有业务，其中可以在该单个点处对业务进行观测和控制。然而，在水平扩展系统中，例如由于故障、升级等，硬件和/或软件实例可能在任意时间点来去。

可能更关键的是，从客户端池向水平扩展应用中的对等应用实例分发业务可能导致一些应用实例被过度利用而一些应用实例未被充分利用。例如，给定客户端或至少源自相同客户端上下文的给定连接可能比其他客户端或连接“更具粘性”。在这一方面，“粘性”连接是持久的并且与持续的应用业务相关联。

本文认为以循环“负载分发”方案向各个应用实例指派来自不同客户端池的应用业务未考虑以下事实：由分布式应用业务引起的粘性连接可能聚合在应用实例中的一个或多个处。此外，在对等应用实体之间同步业务控制参数的状态在可用网络带宽和达到和/或维护同步状态所需的消息数量方面可能是昂贵的。

发明内容

本发明包括用于水平扩展应用中的分布式业务控制的装置和方法，其中，基于软件的应用被实现为多个对等应用实例，每一个应用实例提供应用的总能力或容量的一部分。在每一个应用实例处实例化或以其他方式实现包括分布式业务控制器的装置，并且这些装置共同操作以根据例如服务水平协议或SLA限制各个客户端或附属客户端组对应用的总利用率，并且还操作以防止应用实例中的任意一个的不成比例利用率。有利地，根据本文的教导在分布式业务控制器之间使用有效信息传播协议来完成这些操作。

在更详细的示例中，本文的教导公开了控制单独客户端对软件应用的利用率的方法。应用被实现为多个对等应用实例，这些对等应用实例从多个客户端中的任意一个或多个客户端接收应用业务，并且在每一个应用实例处实现所述方法。

有了该理解，所述方法包括：将进入进入所述应用实例的应用业务分类为与所述客户端中的不同客户端和/或不同类型的应用业务相对应的流；以及关于所述应用实例估计每一个流的本地需求值。所述方法还包括：与所述应用实例中的一个或多个其他应用实例交换本地需求信息。所述交换包括：发送针对所述应用实例处的所述流所估计的本地需求值，以及接收所述应用实例中的其他应用实例处的所有相似流的相似估计的本地需求值。

根据该方法，在每一个应用实例处使用交换的本地需求信息来确定应用实例处的每一个流的总体需求值。关于应用确定总体需求值。在这个意义上，在非限制性示例中可以将针对给定应用实例处的给定流所确定的总体需求值理解为针对该应用实例处的该流所估计的本地需求值和针对其他应用实例处的所有相似流所估计的本地需求值之和。

有利地，所述方法继续使用针对每一个流所确定的总体需求值来计算应用实例处的流的本地利用率限制。

相应地，所述方法还包括：根据是否超出所述流的本地利用率限制，将每一个流中的应用业务标记为不符合策略业务或符合策略业务。该操作可以被理解为第一级监管，在该第一级监管中应用了逐流利用率限制。

作为第二步或第二级监管，所述方法附加地包括：确定所述应用实例处的所有流的应用业务的聚合是否超出本地聚合利用率限制。根据所述方法，基于是否超出所述本地聚合利用率限制和/或基于对符合策略业务和不符合策略业务的区分，控制对去往所述应用实例的聚合应用业务的缓存。例如，虽然可以响应于不符合策略业务来约束单独流，但是也可以是以下情况：对聚合应用业务进行缓存涉及：至少在超出本地聚合利用率限制期间向符合策略业务和不符合策略业务应用不同的缓存优先级。

在本文教导的一个或多个实施例中使用包括分布式业务控制器和通信控制器的装置实现上述方法及其变形或扩展。装置可以是基于软件的，例如，根据存储在计算机可读介质中的计算机程序指令的执行被实现为逻辑或功能电路。在示例性情况下，装置被实现为每一个应用实例的一部分，或者被实现为联合主机操作系统环境中的应用实例执行的伴随程序。