[发明专利]应用策略以在虚拟机之间调度网络带宽

说明书

背景

大规模联网系统是在用于为业务和操作功能运行应用和维护数据的多种设定中使用的常见平台。例如，数据中心（例如物理云计算基础设施）可同时为多个顾客提供多种服务（例如web应用、电子邮件服务、搜索引擎服务等等）。这些大规模联网系统通常包括遍及该数据中心分布的大量资源，其中每个资源都类似于物理机或在物理节点或主机上运行的虚拟机（VM）。当数据中心托管多个承租人（例如顾客程序）时，这些资源被最优地从同一数据中心分配给不同的承租人。

通常，多个VM会并发地在计算网络或数据中心内的同一物理节点上运行。可将这些共享公共物理节点的VM分配给不同的承租人，且VM可能在不同的时间要求不同数量的资源。例如，通常只有一个网卡安装在一个物理节点上，其中网卡具有数量有限的网络带宽。当一个承租人要求高数量的资源以完成特定任务时，运行在物理节点上的该承租人的VM中的一个可能会通过在网卡上发送大量的分组而对网卡施压，阻止运行在该物理节点上的其他VM公平地共享其资源。

因此，因为对数据中心内的处理能力的最优分配通常涉及将多个VM放置在单个物理节点上，并且因为这些VM要求资源（例如，网络带宽）以执行大多数操作，通过在资源消耗上施加限制来允许同一物理节点上的VM公平地共享网络带宽的机制将帮助减少对可用资源的施压并将帮助维护提供给数据中心的承租人的高质量服务。

概述

提供本发明内容是为了以简化的形式介绍将在以下详细描述中进一步描述的概念。本发明内容并不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于帮助确定所要求保护的主题的范围。

本发明的实施方式提供了允许驻留在公共物理节点上的虚拟机（VM）公平地共享由物理节点提供的资源（例如，网络带宽）的机制。通常，公平地共享资源涉及在资源消耗上施加限制以改善对网络带宽的施压或对向VM驻留其中的数据中心的承租人保证的服务质量的负面影响。

在示例性实施例中，限制的施加可涉及提供通过根据策略将网络带宽分配给共享的物理机器上的VM中的每一个来动态地控制VM体验的管理实用程序（例如，图5-7的调度器401)。换言之，管理实用程序可授予物理机器所有者或数据中心的承租人用于配置控制VM对网络带宽的使用的策略的能力。除了用作接受由一个或多个实体所规定的策略的接口，管理实用程序还可强制实施这些策略从而使得特定质量的服务（例如，对每个VM保证的最小/最大网络带宽）被提供给VM。

在强制实施这些策略的一个实例中，管理实用程序可采用用于控制从VM发送的通信量的速率限制技术。作为实例，一个速率限制技术可指令当自VM的数据流的速率消耗比当前分配给VM的少的资源时数据分组自由地从VM传递给网络。一般而言，所分配的资源是由与VM相关联的策略指定的。另一个速率限制技术可指令当VM试图使用比当前分配给它的资源多的资源时丢弃或延迟数据分组。

如将在下文中更完全描述的，一组令牌桶队列和调度器可在物理节点上实现以执行这些速率限制技术。首先，执行速率限制技术可一开始涉及调度器检查一个或多个写入契约中的服务质量（QoS）策略，其中契约管控网络资源对客户端或数据中心的承租人的分配。接着，调度器可部分地基于客户端契约中的QoS策略将令牌存放进令牌桶队列中。如此处所描述的，令牌桶队列被分配给在由其它VM共享的物理节点上所实例化的一VM。

然后调度器可检查令牌桶队列来查明VM的状态。例如，当所存放的令牌未从令牌桶队列中耗尽时，调度器可检测到VM处于空闲状态。相反，调度器可基于所存放的令牌从令牌桶队列中的耗尽而检测出VM处于活动状态，因为所存放的令牌的部分是根据自VM的数据流的速率而从令牌桶队列中撤回的。在这个实例中，调度器可基于QoS策略和保留在令牌桶队列中的所存放的令牌的一部分将令牌重新加载进令牌桶队列中。如此，使用调度器结合令牌桶队列的网络带宽的分配维护VM之间的公平性同时最大化物理节点上的吞吐量。

附图简述

以下参考附图详细描述本发明的各实施例，附图中：

图1是适用于实现本发明的各实施例的示例性计算环境的框图；

图2是示出适用于实现本发明的各实施例的、被配置为在数据中心的物理节点内分配带宽的示例性云计算平台的框图；

图3是描述根据本发明的实施例的与外部端点通信的物理节点内的组件的示例性分布式计算环境的框图；

图4-6是描述根据本发明的实施例的驻留在单个物理节点上的各虚拟机（VM）和相对应的令牌桶队列之间的各种数据流的框图；