[发明专利]用于计算节点和存储节点的数据处理单元

说明书

描述了一种新的处理架构，其中在计算设备内利用数据处理单元(DPU)。与围绕中央处理单元(CPU)为中心的常规计算模型不同，本文描述的示例实现利用DPU，该DPU被专门设计和优化用于以数据为中心的计算模型，在该计算模型中，围绕数据处理任务为中心，并且数据处理任务是DPU的主要责任。例如，诸如联网、安全性和存储以及相关的工作加速、分布和调度之类的各种数据处理任务以及其他这样的任务是DPU的领域。DPU可以被视为高度可编程的高性能输入/输出(I/O)和数据处理集线器，其被设计为对来自和去往多个其他组件和/或设备的网络和存储I/O进行聚合和处理。这释放了CPU(如果有的话)的资源以进行计算密集的任务。

本申请要求2017年7月10日提交的美国临时申请号62/530,691和2017年9月15日提交的美国临时申请号62/559,021的权益，其全部内容通过引用并入本文。

技术领域

本公开涉及例如在联网和存储领域中用于处理信息的分组的设备。

背景技术

常规计算设备通常包括诸如中央处理单元(CPU)、图形处理单元(GPU)、随机存取存储器、存储装置以及诸如以太网接口之类将计算设备连接到网络的网络接口卡(NIC)之类的组件。典型的计算设备以处理器为中心，使得整体计算责任和控制与CPU集中在一起。这样，CPU执行处理任务；存储器管理任务，诸如在CPU内的本地高速缓存、随机存取存储器和存储装置之间转移数据；以及联网任务，诸如构建和维护联网堆栈以及从外部设备或网络发送和接收数据。此外，CPU的任务还有处置例如来自用户接口设备的中断。被放置在CPU上的需求随着时间的推移持续增加，但是新CPU开发中的性能改进随着时间的推移而降低。

通用CPU一般不被设计用于通常被分组化的高容量网络和存储工作负载。通常，CPU在执行分组流处理方面相对较差，因为这样的业务在时间上被分片并且不能很好地进行高速缓存。但是，服务器设备通常使用CPU来处理分组流。

作为一个示例，以x86架构为模型的CPU在各个领域都遇到了效率低下的问题，包括与硬件的接口(例如，中断、完成、门铃和其他PCI-e通信开销)、软件分层(例如，内核到用户切换成本)、锁定和同步(例如，在各个处理步骤处的状态保护和访问序列化的开销)、缓冲器管理(例如，分配和释放存储器和元数据的CPU和存储器上的负载，以及管理和处理缓冲器列表)、分组处理(例如，中断、线程调度，管理硬件队列和维护链接列表的成本)、协议处理(例如，访问控制列表(ACL)、流查找、报头解析、状态检查、以及对于传输协议的操纵)、存储器系统(例如，数据副本、存储器和CPU带宽消耗)和高速缓存效果(例如，由于不可高速缓存的数据量导致的高速缓存污染)。

发明内容

总体上，本公开描述了一种利用数据处理单元(DPU)的新处理架构。与围绕中央处理单元(CPU)为中心的常规计算模型不同，本文描述的示例实现利用DPU，该DPU被专门设计和优化用于以数据为中心的计算模型，在该计算模型中，围绕数据处理任务为中心，并且数据处理任务是DPU的主要责任。DPU可以被视为高度可编程的高性能输入/输出(I/O)和数据处理集线器，其被设计为对来自和去往多个其他组件和/或设备的网络和存储装置(例如，固态驱动(SSD))I/O进行聚合和处理。这释放了CPU(如果有的话)的资源以进行计算密集的任务。

例如，各种数据处理任务，诸如联网、安全性和存储、以及相关的工作加速、分布和调度以及其他这样的任务，都是DPU的领域。在一些情况下，应用处理器(例如，托管DPU的计算节点的分离的处理设备、服务器、存储设备或甚至是本地CPU和/或本地图形处理单元(GPU))可以与DPU进行编程性地接口，以根据需要来配置DPU并且卸载任何数据处理密集的任务。以这种方式，应用处理器可以减少其处理负载，使得应用处理器可以执行应用处理器非常适合的那些计算任务，并且将应用处理器可能不太适合的专注于数据的任务(诸如联网、存储等)卸载到DPU。