[发明专利]用于GPU发起的通信的网络分组模板化

说明书

公开了用于执行图形处理单元(GPU)发起的通信的网络分组模板化的系统、设备以及方法。中央处理单元(CPU)根据模板创建网络分组，并且用静态数据填充所述网络分组的第一字段子集。接下来，所述CPU将所述网络分组存储在存储器中。GPU发起内核的执行，并且在所述内核完成执行之前在所述内核内检测网络通信请求。响应于此确定，所述GPU用运行时数据填充所述网络分组的第二字段子集。然后，所述GPU生成所述网络分组已准备好被处理的通知。网络接口控制器(NIC)响应于检测到所述通知而使用从第一字段子集和从第二字段子集检索到的数据来处理网络分组。

背景技术

本发明是在美国劳伦斯·利弗莫尔国家安全局的PathForward项目(美国能源部授予的主要合同编号DE-AC52-07NA27344，分包合同编号B620717)的政府支持下完成的。美国政府具有本发明中的某些权利。

相关技术说明

通用处理器(诸如中央处理单元(CPU))通常执行软件应用程序的输入/输出(I/O)操作。在包括多个处理器的系统中，CPU可能是唯一可以生成网络消息的处理器。除了通用处理器之外，该系统还可以包括数据并行处理器。数据并行处理器具有高度并行的执行架构。数据并行处理器可以包括图形处理单元(GPU)、数字信号处理器(DSP)等等。数据并行处理器在等待CPU代表其来协调网络通信时会导致计算延迟。在具有CPU和GPU的计算系统中，CPU通常被称为“主机”。在这些系统中，就网络操作而言，GPU是二等公民。这限制了GPU发起网络操作的能力，并且要求CPU参与GPU启动的任何网络操作。使用主机为GPU生成网络消息可能会涉及从GPU到主机以及从主机到网络接口的若干次背对背往返，从而导致性能降低。

附图说明

通过结合附图参考以下描述，可以更好地理解本文描述的方法和机制的优点，在附图中：

图1是计算系统的一个实现方式的框图。

图2是计算系统的另一实现方式的框图。

图3示出了将网络控制路径从CPU卸载到GPU的一个实现方式的时序图。

图4示出了用于存储网络分组模板的队列的一个实现方式的图。

图5示出了网络分组模板的一个实现方式的图。

图6示出了网络分组模板的另一实现方式的图。

图7是示出用于创建和使用网络分组模板的方法的一个实现方式的通用流程图。

图8是示出用于确定何时将网络分组模板添加到队列中的方法的一个实现方式的通用流程图。

图9是示出用于确定何时将网络分组模板添加到队列中的方法的另一实现方式的通用流程图。

具体实施方式

在以下描述中，阐述了众多具体细节以提供对本文所呈现方法和机制的透彻理解。然而，本领域普通技术人员应认识到，可在没有这些具体细节的情况下实践各种实现方式。在一些情况下，并未详细示出众所周知的结构、部件、信号、计算机程序指令和技术，以避免混淆本文描述的方法。应当理解，为了说明的简单和清楚起见，附图中所示的元件不一定按比例绘制。例如，一些元件的尺寸可相对于其他元件被放大。

本文公开了用于实现网络分组模板化的各种系统、装置以及方法。第一处理器(例如，中央处理单元(CPU))根据模板创建网络分组，并且用静态数据填充网络分组的第一字段子集。接下来，第一处理器将网络分组存储在存储器中。第二处理器(例如，图形处理单元(GPU))发起内核的执行并且在内核完成执行之前检测网络通信请求。响应于检测到网络通信请求，第二处理器用运行时数据填充网络分组的第二字段子集。然后，第二处理器生成网络分组已准备好被处理的通知。网络接口控制器(NIC)响应于检测到所述通知而使用从第一字段子集和从第二字段子集检索到的数据来处理网络分组。