[发明专利]一种集群服务器缓存负载均衡的方法和系统

说明书

技术领域

本发明涉及计算机网络技术领域，特别涉及一种集群服务器缓存负载均衡的方法和系统。

背景技术

服务器部署，是指根据企业或用户的实际需求对服务器集群进行动态的设置，对服务器的设备进行软件或者硬件的相应设置、操作，动态调节服务器集群的容量和处理能力，从而满足企业或用户的需求，实现业务活动的目的。

随着网络宽带的日益普及和网络应用的不断发展，用户业务需求和对服务器处理能力的需求处在快速增长阶段，对服务器技术发展不断提出挑战。为了解决业务需求和服务器处理能力之间的不平衡，服务器技术已经从单节点网络服务器的一对多架构，向集群化、多服务器的多对多架构迁移，扩展了服务器的处理能力和带宽，以实现廉价、高效、可靠的网络服务能力。应用服务器集群可以从多个计算机的并行计算中获得很高的计算速度，也可以用多个计算机做备份，从而使得任何一个机器中断服务后整个系统还是能正常运行，保证了服务器处理能力的效率和稳定性。

服务器集群是将一组独立的服务器通过某种机制(网络连接)有机的连接起来，组成一个松耦合的多服务器系统，部署在这些服务器中的应用程序可以通过网络共享内存，进行消息传送，实现进程间通信，从而实现分布式计算。从外部来看，服务器集群仅仅是一个系统，对外提供统一的服务。

服务器集群模式主要有冗余模式和负载均衡模式。冗余模式又称主/备模式，是一种不对称集群结构，有一些服务器专门用于当工作服务器出现故障时接替它们的工作。负载均衡模式是一种对称集群结构，每个服务器都承担有工作，每台服务器都相互平等，没有专门用于备用的服务器。如果一个服务器出现故障，其余服务器则会继续处理其自身所分配的应用负载，同时处理发生故障的服务器上的应用负载，具体由哪台或哪几台服务器接管，要看集群服务配置了。

目前比较常用的服务器集群负载均衡技术主要有：

1)、基于DNS的负载均衡。通过DNS服务中的随机名字解析来实现负载均衡，在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中一个地址。因此，对于同一个名字，不同的客户机会得到不同的地址，他们也就访问不同地址上的Web服务器，从而达到负载均衡的目的。

2)、反向代理负载均衡(如Apache+JK+Tomcat组合)。使用代理服务器可以将请求转发给内部的Web服务器，让代理服务器按照某种算法将请求均匀地转发给多台内部Web服务器之一上，从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同，标准代理方式是客户使用代理访问多个外部Web服务器，而这种代理方式是多个客户使用代理访问多个内部Web服务器，因此也被称为反向代理模式。

3)、基于NAT(Network Address Translation)的负载均衡技术(如Linux Virtual Server，简称LVS)。NAT(网络地址转换)指在内部地址和外部地址之间进行转换，以便具备内部地址的计算机能访问外部网络，而当外部网络中的计算机访问地址转换网关拥有的某一外部地址时，地址转换网关能将其转发到一个映射的内部地址上。因此如果地址转换网关能将每个连接均匀转换为不同的内部服务器地址，此后外部网络中的计算机就各自与自己转换得到的地址上服务器进行通信，从而达到负载分担的目的。

但是，对于集群服务器的内存管理，尚未有成熟的管理技术。流媒体点播、P2P应用、大型3D网络游戏、网络购物等流行的互联网应用会造成网络流量和服务器处理业务的短期高峰和不平衡，尤其是跨平台的业务需要大量的引用内存来快速处理数据，会形成业务的波峰和波谷，服务器集群的处理能力受到极大的考验，设备存在宕机或数据丢失的风险，给用户造成不良体验，也造成了经济利益的损失。

发明内容

本发明提供一种集群服务器缓存负载均衡的方法，在服务器集群缓存之间形成负载均衡，增强服务器集群的缓存处理能力，提高服务器集群的运维稳定性，节约了服务器设备的成本，保证了服务器的业务质量，避免了服务器集群运行的风险，提高了服务器集群管理的效率。

本发明的技术方案提供了一种集群服务器缓存负载均衡的方法，包括以下步骤：

管理服务器计算应用服务器缓存的负载情况；

把缓存数据读/写任务分配给空闲的应用服务器；

应用服务器汇总缓存数据。

进一步的，所述应用服务器为至少一台。

进一步的，每隔10ms管理服务器更新应用服务器的缓存负载数据。

进一步的，每隔5ms管理服务器将数据读/写任务分配给空闲的应用服务器。