[发明专利]一种流水线Web服务器的系统及其工作方法

说明书

技术领域

本发明涉及网络服务器，尤其涉及一种流水线Web服务器的系统及其工作 方法。

背景技术

近年来，提高网络服务器的性能已经成为处理以网络为基础的服务的关键 问题。很多在线事务处理和分布式服务的关键特征开始统治了高性能Web服务 器的设计，因为预料这些服务器会成为提供网络为基础的服务的瓶颈。为了提 高web服务器的性能有三类技术被提了出来：软件扩展，硬件扩展和基于簇 (cluster)的扩展。软件和硬件扩展技术可增强单点服务器的性能。通常， 软件为基础的方法会尽力改进Web服务器的缓冲(cache)命中率，从而降低 磁盘访问延迟以满足用户的需求。另一方面，硬件扩展通过向系统中加入更多 的处理器和内存提供附加的计算能力。而以簇为基础的方案通过利用单一域名 下的由同构或异构节点组成的机群来解决问题。这种方法被Google和e-Bay 有效地使用了。

针对Web服务器人们已经提出了4种体系结构。

第一种为MP(Multi-Process，多进程)模型。该模型有一个进程池，每 个进程被用来执行与服务一个请求相关的基本操作。因为使用了多进程，很多 http请求能够并发地被服务。Apache Web服务器当初就采用的是MP模型。这 种模型的缺点是进程间难以共享任何全局信息，例如共享的缓冲信息。与其它 模型相比，一个MP模型的Web服务器需要更多的内存以维持每个进程有同等 的缓冲大小。所以，该种模型总的性能要低于其它的模型。

第二种为MT(Multi-Thread，多线程)模型。该模型很多有同一个共享 地址空间的核心线程(kernel thread)组成。每个线程处理一个客户的请求， 独立地执行请求处理的步骤。这种模型的优点是全部线程能够共享任何全局信 息。特别地，全部线程共享数据缓冲。但是，不是全部操作系统支持核心线程， 同时，线程间共享数据缓冲可能导致很高的同步开销。广泛使用的Apache Web 服务器就升级到了MT模型。

第三种是SPED(Single-Process Event-Driven，单进程事件驱动)模型。 该种模型使用非阻塞I/O操作。SPED能够避免上下文切换和进程/线程间的同 步开销。这个模型已经被Zeus Technology公司实现。但是，这个模型中的非 阻塞I/O操作实际上也可能阻塞，特别是在由于目前操作系统的限制执行磁盘 相关的操作时。因此，对于磁盘依赖负载SPED模型没有表现得比MT模型好。

第四种是AMPED(Asynchronous Multi-Process Event-Driven，异步多 进程事件驱动)模型。该种模型可以减轻SPED模型的缺点，其原型是Rice大 学的Flash服务器。它由一个主Web服务器进程和很多主要用来处理I/O操作 的帮助线程组成。由于多个帮助者服务面向磁盘的请求，主Web服务器进程就 可仅处理缓冲击中请求。在该模型中，IPC(进程间通信)和mmap(将文件或 其它对象映射进内存的系统调用)用来做信息交换。但是，这四个模型都是为 单CPU系统设计的，没有考虑到硬件技术的最新发展——多核SMP和SoC技术。

近来，Intel和AMD都争相推出双核甚至4核的CPU以瞄准高性能服务器 市场；同时，IBM和Sony等公司联合推出了有多达8个处理器单元的Cell芯 片，它们掀起了高性能服务器向多核/多线程技术的转移，可以预见4核或者 8核SMP不久将推向市场。另一方面，随着深亚微米技术的蓬勃发展，SoC体 系结构在不久的将来将成为现实，到那时拥有几十亿只晶体管的SoC将可能统 治高性能计算领域。例如，如果技术能够降低到35nm，制造拥有多达32/64 处理器的SoC将成为可能。因此，网络服务器必须采用多核SMP与SoC技术。 这就要求网络服务器的体系结构必须做出变革，以迎接新的硬件技术的发展。

为此，一种新的Multi-Thread Pipelined(多线程流水线)Web服务器 体系结构被提了出来，它利用了MT模型的优点，但是通过限制进程数量减轻 了同步的开销。

SEDA(Staged Event Driven Architecture，分级事件驱动架构)是加州 大学伯克利分校研究的一套优秀的高性能互联网服务器架构模型。其设计目标 是：支持大规模并发处理、简化系统开发、支持处理监测、支持系统资源管理。