[发明专利]用于将网络分组处理卸载到GPU的网络设备、方法与存储介质

说明书

用于将用于处理网络分组的应用卸载到网络设备的图形处理单元(GPU)的技术。网络设备被配置为确定应用的资源标准和GPU的可用资源。网络设备还被配置为基于应用的资源标准和可用的GPU资源来确定可用的GPU资源是否足以用于处理该应用。另外，网络设备被配置为基于应用的资源标准和可用的GPU资源来确定一个或多个估计的GPU性能度量，以确定是否将应用卸载到GPU。描述并且要求保护其他实施例。

交叉引用

本专利申请要求2015年08月26日提交的14/836,142号、名称为“TECHNOLOGIESFOR OFFLOADING NETWORK PACKET PROCESSING TO A GPU”的美国临时专利申请的权益。

技术领域

本发明涉及网络分组的处理，尤其是涉及网络分组在图形处理器单元 (GPU)与中央处理单元(CPU)之间的调度处理。

背景技术

随着服务器、网络以及存储技术的技术提升，基于硬件的网络功能正在向标准大容量的服务器上的基于软件的网络功能转变。为了满足性能要求，基于软件的网络功能与其基于硬件的对应物相比通常需要更多中央处理单元(CPU)周期。可替代地，通用图形处理器单元(GPU)或GPGPU 可以用于网络分组处理工作负载。具有对GPGPU的独占访问的单个网络分组处理应用(例如，深度分组检测(DPI)、防火墙、加密/解密、第三层转发等)的GPGPU性能是相对可预测的。然而，当附加的网络分组处理应用利用GPGPU作为卸载引擎或加速器时，性能的水平可能变得更难以预测。例如，GPGPU加速的应用可能不意识到和/或不能与另一GPGPU加速的应用进行通信，这可能导致GPGPU的非高效的和/或非协调使用。更具体地，如果第一GPGPU加速的应用充分地利用了GPGPU的资源，则由于资源竞争等原因，卸载第二GPGPU加速的应用可以导致性能降级。

发明内容

根据本发明的一个方面，提供一种用于将网络分组的处理卸载到网络设备的图形处理单元(GPU)的网络设备，所述网络设备包括一个或多个处理器；一个或多个存储器设备，其具有存储在其中的多个指令，所述指令当由所述一个或多个处理器执行时，使得所述网络设备用于：在将应用卸载到所述GPU之前，确定要卸载的应用的资源标准，其中，所述资源标准限定用于运行所述应用需要的所述网络设备的一个或多个系统资源的最小量；确定所述网络设备的所述GPU的可用的GPU资源；基于所述应用的所述资源标准和所述可用的GPU资源，来确定所述可用的GPU资源是否足以用于处理所述应用；确定所述网络设备的中央处理单元(CPU)的一个或多个估计的CPU性能度量；在卸载所述应用到所述GPU之前，响应于确定所述可用的GPU资源足以用于处理所述应用，基于所述应用的所述资源标准和所述可用的GPU资源，来确定一个或多个估计的GPU性能度量，其中，所述估计的GPU性能度量指示如果所述GPU用于运行所述应用所述GPU的性能的估计的水平；以及将所述估计的GPU性能度量与所述估计的CPU性能度量进行比较；如果所述GPU性能度量被确定为是相对于所述CPU性能度量的改进，将所述应用的处理卸载到所述GPU；或者如果所述GPU性能度量未被确定为是相对于所述CPU性能度量的改进时，将所述应用的处理卸载到所述GPU以便释放所述CPU以执行其他任务。