[发明专利]用于控制水平扩展软件应用中的利用率的方法和装置

权利要求书

1.一种控制单独客户端(12)对软件应用(10)的利用率的方法(500)，其中所述应用被实现为多个对等应用实例(14)，所述多个对等应用实例(14)从多个客户端(12)中的任意一个或多个客户端(12)接收应用业务，并且所述方法(500)在每一个应用实例(14)处包括：

将进入所述应用实例(14)的应用业务分类(502)为与所述客户端(12)中的不同客户端和/或不同类型的应用业务相对应的流(22)；

关于所述应用实例(14)估计(504)每一个流(22)的本地需求值；

与所述应用实例(14)中的一个或多个其他应用实例交换(506)本地需求信息，包括：发送针对所述应用实例(14)处的所述流(22)所估计的所述本地需求值，以及接收针对在所述应用实例(14)中的其他应用实例处的所有相似流(22)的相似估计的本地需求值；

基于所交换的本地需求信息来关于所述应用(10)确定(508)每一个流(22)的总体需求值；

根据针对所述流(22)所确定的总体需求值来计算(510)每一个流(22)的本地利用率限制；

根据是否超出所述流(22)的本地利用率限制，将每一个流(22)中的所述应用业务标记(512)为不符合策略业务或符合策略业务；

确定(514)所述应用实例(14)处的所有流(22)的应用业务的聚合是否超出本地聚合利用率限制；以及

基于是否超出所述本地聚合利用率限制以及对符合策略业务和不符合策略业务的区分，以每一个流和/或聚合流为基础来控制对去往所述应用实例(14)的聚合应用业务的缓存。

2.根据权利要求1所述的方法(500)，其中，交换所述本地需求信息包括：经由基于gossip的逆熵协议与所述应用实例(14)中的一个或多个其他应用实例进行通信，所述基于gossip的逆熵协议将所述应用实例(14)中的任意一个应用实例处估计的本地需求值传播到所述应用实例(14)中的所有其他应用实例。

3.根据权利要求1或2所述的方法(500)，其中，估计每一个流(22)的本地需求值包括以下至少一项：对所述应用实例(14)处针对所述流(22)活动的协议会话的数量进行计数；基于在定义间隔内是否已经接收到所述流(22)中的任意新的应用业务来估计所述流(22)的预期流速率；以及基于测量所述流(22)中的所述应用业务的到达速率来估计所述流(22)的预期流速率。

4.根据权利要求1或2所述的方法(500)，其中，确定所述流(22)的总体需求值包括：对针对所述应用实例(14)处的所述流(22)所估计的本地需求值和通过所述本地需求信息的交换而获知的针对所述应用实例(14)中的其他应用实例处的所有相似流(22)所估计的所述本地需求值进行求和。

5.根据权利要求1或2所述的方法(500)，其中，计算每一个流(22)的所述本地利用率限制包括：计算所述流(22)的本地流速率限制。

6.根据权利要求5所述的方法(500)，其中，计算所述流(22)的本地流速率限制包括：根据关于所述应用(10)针对所述流(22)和其所有相似流(22)的已知总最大流速率限制来计算所述本地流速率限制，以及通过比例因子对所述总最大流速率限制进行缩放，所述比例因子是根据所述流(22)的本地需求值与所述流(22)的总体需求值之比来确定的。

7.根据权利要求5所述的方法(500)，其中，计算每一个流(22)的本地利用率限制还包括：计算所述流(22)中的应用业务的本地突发大小限制。

8.根据权利要求1或2所述的方法(500)，其中，控制对去往所述应用实例(14)的聚合应用业务的缓存包括：相对于不符合策略业务优先处理符合策略业务，包括：根据优先级划分方案清空针对所述应用实例(14)的一个或多个延迟缓存(58、60)，其中与所述不符合策略业务相比，所述优先级划分方案通常对所述符合策略业务施加更短的缓存延迟。

9.根据权利要求8所述的方法(500)，还包括：根据在与所述流(22)中的各个流相关联的相应服务水平协议SLA中定义的一个或多个服务参数对所述一个或多个延迟缓存中的聚合应用业务进一步划分优先级，以便满足在所述SLA中的一个或多个中针对所述流(22)所定义的一个或多个最小应用业务参数。