[发明专利]基于SEDA的应用服务器及其节能装置和方法

说明书

技术领域

本发明一般涉及应用服务器技术领域，具体地说，涉及一种基于SEDA的应用服务器及其节能装置和方法。

背景技术

分阶段式事件驱动架构(SEDA)是加州大学伯克利分校的MattWelsh、David Culler和Eric Brewer提出的一种高性能服务器架构模型。其设计目标是：支持大规模并发处理、简化系统开发、支持处理监测、支持系统资源管理。SEDA的核心思想是把一个请求处理过程分成几个阶段，资源消耗不同的阶段使用不同数目的线程来处理，阶段间使用事件驱动的异步通信模式。因此，基于SEDA的多阶段事件驱动应用服务器总是一个多线程系统。

SEDA已成为应用服务器的经典架构并且已被接受为行业标准。下面以SEDA HTTP服务器为例对SEDA架构进行简单的说明。图1示出了SEDA HTTP服务器的架构图。在图1的架构中，应用由多个阶段构成，将每一个处理步骤独立为一个阶段。相邻的阶段通过队列相连接，队列用作阶段之间的隔离器。箭头表示阶段之间的事件流程。每个阶段可以被独立管理，并且阶段可以按顺序依次运行或并发运行，或者是两者的组合。

图2示出了SEDA的一个阶段的结构图。该阶段包括：用于接收输入的事件队列；应用开发者编写的事件处理器；用于对执行过程(如并发线程数目、批处理数目)进行控制的控制器；和用于并发处理的线程池。阶段的输入通过事件队列获得。阶段的输出会以事件形式推送到其它阶段的事件队列中。阶段之间的这种连接关系由应用开发人员指定。

近年来，在微处理器行业中，多核技术占据了主流地位。更多内核被引入单个中央处理单元(CPU)以改进整体性能，而不再以大幅提高功耗为代价简单提高CPU频率。这些多核系统适用于多线程软件应用，例如适用于基于SEDA的应用服务器，因为这种应用服务器具有许多同时运行的线程。

另一方面，近年来，能耗问题吸引了人们极大的关注。在数据中心中，超过60％的维护费用是花费在电费上。作为数据中心中的一种重要的应用，基于SEDA的应用服务器的能效对于绿色数据中心而言是非常重要且具有挑战性的问题。

随着多核CPU变成下一代服务器架构的趋势，已经为其设计了许多动态电源管理技术，诸如EIST(EnhancedTechnology)、ACPI和CPUfreq。所有这些功能和特征可以被操作系统(OS)所使用，例如，我们可以使用OS命令来关闭CPU内核或降低CPU频率。迄今为止，电源管理特征大多是在OS层和硬件层中实现的。然而，研究结果表明软件线程相对于硬件线程的分配和绑定方案对功耗具有显著影响。这意味着在OS层和硬件层中实现的电源管理还远远不是高效的，因为OS层和硬件层并不总是知道应用的工作负荷特性和应用层代码路径的组织，这使得OS层和硬件层更加难以明智地分配和映射软件线程和硬件内核。

为了填补基于SEDA的应用服务器的能效要求与OS层和硬件层提供的基础架构之间的差距，需要一种良好设计的方案。考虑到工作负荷及其QoS要求、在SEDA应用服务器中可调节的参数的数目以及OS和硬件提供的工作的多样性，这不是一个容易解决的问题。

发明内容

为了解决上述问题，本发明的主要目的是提供一种基于SEDA的应用服务器及其节能装置和方法，用以动态调节启用内核的数目、启用内核的频率、以及软件线程与启用内核的映射关系等。在本专利中，所有这些因素作为整体被称为节能配置。以在满足性能要求的同时将总功耗保持得尽可能低的方式来调节所有这些配置因素。

根据本发明的一方面，提供了一种基于SEDA的应用服务器，该应用服务器将一个请求处理过程分成通过队列相连的多个阶段，并为每个阶段分配一个或多个软件线程进行处理，该应用服务器包括：硬件资源管理器，用于收集与所述应用服务器中的硬件资源有关的硬件信息并且能够对硬件资源进行控制；工作负荷监测器，用于监测每个阶段以获得工作负荷信息；以及线程调度器，基于由工作负荷监测器获得的工作负荷信息以及由硬件资源管理器收集的硬件信息，确定并设置硬件资源的工作状态以优化硬件资源的能耗。