[发明专利]用于保障多线程服务器应用的系统

说明书

优先权要求

本申请要求于2008年11月19日提交的、代理卷号为10022/1389 的美国申请No.12/274,130的优先权，在此通过引用而并入其全部内 容。

技术领域

本公开涉及将计算从系统中央处理单元(CPU)有效地转卸 (offload)到系统图形处理单元(GPU)的数据处理系统。

背景技术

性能在创建大规模应用中是关键的挑战，因为预测这种应用的行 为本身是很困难的。将安全解决方案纳入这些应用架构的结构几乎总 会使结果系统的性能更差。当保护所有应用数据时性能下降可能大于 90％，并且当应用其它安全机制时可能更差。

为了有效，密码算法有必要是计算密集型的，并且必需是数据保 护协议的完整部分。使用密码算法的代价是明显的，因为它们的执行 消耗许多CPU周期，这会对应用的性能产生不利影响。例如，安全 套接字层(SSL)协议中的密码操作将从服务器下载文件的速度降低 了大约10到100倍。SSL操作还将惩罚任何地方web服务器的性能， 其因数大约从3.4到最多因数9。大体上，只要数据消息跨过安全边 界，该消息便会被加密并且随后被解密。这些操作带来了性能处罚。

减轻使用密码协议代价的一个现有技术的尝试包括添加分离的 专门化硬件以提供安全支持。额外的专用硬件允许应用使用更多的 CPU周期。然而，专用硬件是昂贵的并且使用它要求对现有系统进行 较大改动。另外，将外部硬件设备用于密码功能增加了编组与解组开 销(由封装与解封装数据引起的)以及设备延迟。

减轻使用密码协议代价的另一现有技术尝试是增加CPU以处理 加密操作。然而，附加的CPU最好是用于应用的核心计算逻辑，以 改进其响应时间和可用性。另外，多数计算机对其主板上可安装的 CPU的数量具有限制。而且，CPU趋向于变为昂贵资源，其是针对 通用计算而设计的，而非针对用于密码计算的特定应用。这可能导致 CPU的利用不足以及不利的成本收益结果。

因此，需求解决上文描述以及其他之前经历的问题。

发明内容

一种用于保障多线程服务器应用的系统，改进了用于执行核心应 用的CPU的可用性。系统提供转卸、批处理和调度机制，用于在GPU 上有效地执行应用所需的处理任务，从而改进多线程服务器应用的性 能。由此，系统有助于降低CPU与GPU之间的协作处理的关联开销， 从而使CPU可以花费更多的周期用于执行应用逻辑。

通过研究下文的附图和详细描述，其它系统、方法、特征和优势 对于本领域技术人员而言将是或将变为易见的。意在将所有这种附加 的系统、方法、特征和优势都包括在此描述中，包括在本发明的范围 中，并且由所付权利要求加以保护。

附图说明

参考以下的附图和描述可以更好理解系统。图中的分量未必是按 比例绘制的，其重点在于说明本发明的原理。此外，贯穿不同视图， 附图中相似的参考标号指代相应的部分。

图1示出了多线程应用执行环境中加密和解密操作的管理控制系 统，其中消息被批处理以便提交到GPU；

图2示出了多线程应用执行环境中加密和解密操作的管理控制系 统，其中来自接收自GPU的已处理消息的已处理消息分量被递交给 应用的线程；

图3示出了可由加密管理逻辑实现以对消息进行批处理从而提交 到GPU的处理的流程图；

图4示出了可由加密管理逻辑实现用以将由GPU处理的消息返 回到应用线程的处理的流程图；

图5示出了可由加密管理调整逻辑实现的处理的流程图；

图6示出了由系统中加密管理逻辑实现的批处理机制的实验结 果；以及

图7示出了平均等待时间相对于最大复合消息容量的仿真结果的 实例。

具体实施方式