[发明专利]用于管理网络接口卡中多个队列的方法及计算机可读介质

说明书

本发明涉及通信量和负载感知动态队列管理。一些实施例提供了有效且动态地管理多个队列的队列管理系统，多个队列处理进出在主机上执行的多个虚拟机(VM)的通信量。这个系统通过以下步骤管理队列：(1)将队列分成不同优先级池，其中为特定类型的通信量或VM(例如，用于需要低延迟的VM的通信量)保留较高优先级池，(2)动态地调节每个池中的队列数量(即，动态地调节池的大小)，(3)基于一个或多个优化标准(例如，与队列的未充分使用或过度使用有关的标准)，将VM动态地分派给新队列。

本申请是申请号为201410191336.0、发明名称为“通信量和负载感知动态队列管理”、申请日为2014年5月8日的专利申请的分案申请，其全部内容通过引用合并于此。

技术领域

在过去的几年中，已经针对用多个队列通过网络接口卡(NIC) 分配进出主机的传入和传出通信量，提出了队列管理系统。图1示出一个这样的系统。具体地讲，图1示出(1)在主机计算机(未示出)上执行的多个虚拟机(VM)102和(2)具有多个队列的NIC 100。如在此图中示出的，每个队列具有接收侧的缓冲器集合104和发送侧的缓冲器集合106，以分别处理传入和传出通信量。该系统具有四种类型的队列，它们是：默认队列105、一些非默认队列115、 LRO(大型接收卸载，large receive offload)队列120和RSS(接收侧调整，receiveside scaling)队列125。后两种类型的队列是与NIC 支持的专用硬件LRO和RSS功能关联的专业队列。

背景技术

图1的队列管理系统跨多个队列分配进出虚拟机(VM)的通信量。在这个系统中，所有VM在默认队列105中开始。每当VM的通信量超过给定阈值时，把VM从默认队列移出到非默认队列115。当把VM从默认队列移出时，这种实现方式总是将VM移向负载最小的非默认队列而不管VM的要求。这造成三个主要问题。

第一，由于目前的实现方式是在没有考虑VM的通信量类型的情况下选择非默认队列，因此具有特别要求的VM可能受到其它VM 干扰。例如，如果发送和接收对延迟敏感的通信量的特定VM与运行对延迟不太敏感、对吞吐量敏感的工作负荷的一些其它VM共用同一队列，则该特定VM的延迟和抖动一定会受影响。图1中的队列150是具有用于低延迟要求(LLR)VM 152和一些高延迟容忍 (HLT)VM二者的通信量的超负荷队列的示例。在这种情形下，LLR VM 152可能因为各种HLT VM的通信量而在它可容忍的最大延迟内无法发送和接收通信量。

这个实现方式的第二个问题在于，它将固定数量的队列静态地分派给三个不同非默认队列池中的一个，这三个不同非默认队列池是非默认队列115、LRO(大型接收卸载)队列120和RSS(接收侧调整)队列125。在这种方法中，各个池在驱动器初始化期间分派和分配其所有的队列。默认地，各个池将得到相同数量的队列，即使该池实际上并不使用。这导致当池需要更多的队列来维持通信量时出现性能问题，因为超负荷的池将无法接管其它池中的空闲队列，因此无法进一步增长，即使该系统具有容量。

第三个问题在于，VM的队列分派是一次性的，即，一旦VM移到队列，它将再也不移动到其它非默认队列。这造成两个问题。第一，因为分派是一次性的，所以如果VM随后需要更多资源来增长通信量，则它会最终变得受限于对其目前队列的利用。即使存在具有更多增长空间的不太忙的队列，这种现有方法不允许VM有这个机会。另外，这种方法尝试静态地使所有队列忙，即使并不需要那么多队列来服务于通信量。由于这种方法具有用于每个队列的专用内核上下文，因此具有不必要数量的活动队列导致更多活动的上下文。这些活动的上下文将不可避免地在中断到达时停止其它上下文(例如， vCPU)。因此，主机最终变得花费更多周期进行上下文切换，这损害了VM整合率。

发明内容