[发明专利]用于在地理分布数据中心中降低延迟和改善弹性的优化机制

说明书

技术领域

在此公开的各种典型实施方式一般涉及用于在地理分布数据中心中降低延迟和改善弹性的优化机制。

背景技术

云计算是将计算基础设施(例如，服务器，存储器和系统软件)转移到网络设施上以降低成本的范例。服务通过互联网或任何其它网络传递给终端用户。托管计算基础设施的设施通常称为数据中心，也称为云。数据中心的优势是可以大规模地汇集计算资源，由此即使在突发事件下也可以对瞬间流量需求做出有效响应。术语“弹性”通常用于描述云提供商根据业务负荷为给定用户增加或缩减其资源(例如，服务器的数量)的能力。动态分配至给定终端用户的资源能够以按使用付费的模式提供，从而用户主要关心的是业务费用而非基础建设费用。

目前，云提供商的突出例子包括亚马逊EC2、微软Azure和谷歌应用引擎。尽管无法公开地得到详细数据，但是这些云通常包括几个位于不同地点的大型数据中心。这种具有散布于大地理区域(国家)中的几个位置的数据中心可以称为集中式数据中心。在典型部署中，每个数据中心可以托管数以万计或更多的服务器。这些集中式的数据中心通过统计复用可以实现弹性，并获取无限能力。由于可能只有几个大型数据中心，它们的位置无法靠近终端用户。结果，远离数据中心的用户可能会遭受无法接受的延迟。如果具有许多较小的数据中心(每个站点上千台或更少服务器)，站点的位置可以离终端用户近得多。但是，当出现云提供商无法预测的需求激增时，使用较小数据中心进行适当供应就可能无法实现或成本太高。

发明内容

因此，可以开发用于建设适用于电话公司(telco)环境的新型云计算系统的技术和方法，因为电话公司和其它类似服务提供商可以使用现有基础设施来提供云计算。电话公司和其它类似服务提供商具有“最后一公里”优势。不同于传统的云计算提供商，电话公司可以利用成千的中心局(CO)的大量不动产资产来托管计算基础设施。电话公司的另一个优势是它们还拥有“最后一公里”，因此具有提供要求低延迟的关键任务服务的巨大优势。

此外，基于电话公司的云计算可以利用低成本建筑物来实现。研究调查了CO中不同组件的电力消耗。这些研究显示，5级TDM电话交换机在CO中功耗最大，占设备总功耗的43％。此外，这些交换机体积庞大，占据了CO的很大面积。典型CO中的电话交换机的功耗估计是53KW。如果服务器的平均功耗为大约100W，这就相当于托管了大约500个服务器。众所周知，手机的广泛使用对固定电话产生了巨大冲击。根据国家卫生统计中心自2009年12月起的数据，每四个美国人中就有一个放弃使用固定电话。结果，看起来电话交换机最终将退休并可能被服务器取代，将CO转变为小型或中型数据中心。

因此，分布式数据中心似乎提供了非常具有吸引力的电话公司云方案，因为每个数据中心站点可以服务它附近的终端用户。不幸的是，这种具有少量服务器的数据中心可能不会具有更大型云计算系统所具有的弹性。因此，仍然需要具有负荷重新分配的分布式数据中心。当给定数据中心接收到超过其本地所能处理的需求时，系统可以将需求的一部分重新分配(reallocate)给一个或多个远程数据中心。由于由远程数据中心处理的工作可能会需要本地数据中心和远程数据中心之间的额外往返时间，系统也可以选择合适的远程数据中心位置以使延迟(终端用户所感知的响应时间)最小化，或达到其它所需的性能特征。

下面是各种典型实施方式的简要概括。在下面的概括中可能会做一些简化或省略，这样做的目的是为了突出和介绍各种典型实施方式的一些方面，但是不对本发明的保护范围构成限制。在接下来的部分中对优选典型实施方式进行详细描述，这些详细描述足以使本领域技术人员能够开发并使用本发明的概念。

各种典型实施方式涉及一种利用目标函数(function)和目标函数(derivative)的导数将负荷从云计算网络中的一个数据中心站点重新分配至其它数据中心站点的方法，目标函数定义了云计算网络在每个数据中心站点处的性能特征，该方法包括：为其它数据中心站点的集合中的每一个评估导数；基于评估的导数来识别合格的数据中心站点的集合中的一个数据中心站点，当该数据中心站点的负荷部分(fraction)增加时，该数据中心站点对目标函数的影响最小；基于评估的导数和所识别的其它数据中心站点在数据中心站点和其它数据中心站点之间重新分配负荷。合格的数据中心站点(允许将负荷发送至给定站点或从给定站点接收负荷的数据中心站点)可以包括：(1)所有站点，(2)相邻站点的集合，(3)预配置站点的集合，或(4)由分布式方法动态确定的站点的集合。