[发明专利]具有减少时延的分组处理的套接字管理

说明书

技术领域

本公开内容涉及分组处理，且尤其涉及具有增加数量的网络连接的、用于减少时延的分组处理的套接字和关联设备队列的管理。

背景技术

网络接口通常提供在网络和主控系统之间的数据分组传递能力。主控系统可以在网络接口和操作系统或产生和使用数据分组的用户应用/程序的更高层之间采用驱动程序模块。网络接口通常向驱动程序模块生成中断，以便发送可能要求驱动程序模块注意的条件，例如数据传递的完成和/或设备队列中新近接收的各分组的可用性。驱动程序模块中的网络栈处理然后处理在设备队列和更高层之间的分组的传输。在一些实例中，驱动器调度可以是基于计时器的而非由中断驱动的。在一些环境中，网络连接可以作为被称为网络套接字(或仅称为套接字)的抽象由系统呈现给用户应用。

中断常常在网络接口和用户应用之间的分组的传输中引入附加时延，这是因为它涉及上下文切换(常见的栈处理通常被设计为用于较高的吞吐量而非较低的时延)。减少时延的一些实现在与套接字相关联的设备队列上通过系统调用处理(或用户应用或代表应用的用户空间库)采用了忙碌轮询。然而，在尝试服务多个套接字/连接时，忙碌轮询的效果随着套接字的数量线性下降，且随着套接字的数量增加(例如高于几百个套接字)而变得不切实际地低效。

附图说明

随着以下具体实施方式继续，并且经过参考附图，将明显看出所要求保护的主题的多种实施方式的特征和优点，附图中相似标号描绘相似部件，附图中：

图1阐释与本公开内容一致的一种示例实施方式的最高级系统图；

图2阐释与本公开内容一致的一种示例实施方式的框图；

图3(a)阐释与本公开内容一致的另一示例实施方式的框图；

图3(b)阐释与本公开内容一致的另一示例实施方式的框图；

图4阐释与本公开内容一致的一种示例实施方式的操作的流程图；

图5阐释与本公开内容一致的另一示例实施方式的操作的流程图；以及

图6阐释与本公开内容一致的另一示例实施方式的操作的流程图。

尽管下列具体实施方式将参考说明性实施方式而进行，但是，本领域中的技术人员将明显看出许多替代方案、修改以及其变体。

具体实施方式

通常，本公开内容提供用来管理用于减少的分组处理时延的套接字和关联设备队列的系统、方法和计算机可读介质。一种系统可以被配置为提供用于确定诸如数据分组的可用性等的网络事件的多个路径。这些路径可以包括减少时延的忙碌轮询路径和较高时延(但增加吞吐量)的、中断或计时器驱动的路径。另外，系统调用模块可以被配置为维护被称为“特殊列表”的列表，该列表把各套接字映射到特殊活动设备队列。计算系统平台，例如，主控多个用户上下文应用的计算系统平台，可以具有相对大量的开放套接字和相对大量的硬件设备队列。然而，对于由单个处理器(或可用处理器的子集)提供服务的套接字，在任何时刻通常仅可以使用若干设备队列。因此，例如，尽管套接字的数量可以超过数千，但每个处理器中这些套接字可以仅由可能存在的多个设备队列(可能是数百或甚至数千)中的一个或两个设备队列提供服务。特殊列表给设备队列中的每一个提供在该设备队列和选自与该队列相关联的多个套接字的一个套接字(例如，通过该队列提供分组)之间的链路。然后，忙碌轮询可以限于该特殊列表上的设备队列以便增加效率和减少时延，因为不必要的队列的轮询消耗了额外的时间，如下面将更详细地解释的。

减少时延的忙碌轮询模块可以被配置为忙碌轮询设备队列以便以减少的时延把事件“输入”到栈和系统调用模块。当不存在当前可用事件时，响应于来自用户上下文应用的请求，例如Linux OS环境(或其他合适的操作系统)中的epoll系统调用，系统调用模块可以直接忙碌轮询队列，直到事件变得可用，因而减少了沿着这一路径的时延。

尽管在本公开内容中描述的各实施方式涉及从网络接口接收的分组，但应明白，在此描述的概念适用于相对高的吞吐量的任何输入/输出(I/O)系统，诸如例如盘I/O。