[发明专利]一种服务器集群的服务能力控制方法和系统

说明书

技术领域

本申请涉及服务器集群的技术领域，特别是涉及一种服务器集群的服务能力控制方法和系统。

背景技术

目前，各类大型企业、大型网站都采用服务器集群进行资源管理。所谓服务器集群，就是指将多台服务器集中起来进行同一种服务，在客户端看来就像是只有一个服务器。集群可以利用多个计算机进行并行计算从而获得很高的计算速度，也可以用多个计算机做备份，即使其中一个机器出现故障，整个搜索服务器集群仍然能正常运行。

每个服务器集群有自己的服务极限，在面临超出自己服务能力的流量时，会导致搜索服务器集群进入部分不可服务状态，甚至完全不可服务状态。例如，搜索服务器集群资源耗尽，将导致所有的请求都不能完成或者全部超时；，搜索服务器集群被迫随机或者根据优先级抛弃部分请求。然而，在一些大型网站的应用中，尤其是在某些消费者对消费者(Customer-to-Customer，C2C)模式的电子商务网站中，由于商品数量巨大，用户数量众多，在商品搜索的过程中，面对超过服务能力的突发流量时，如果突然发生服务中断，将严重影响用户体验。

现有技术中，对于超过服务能力的突发流量时，一般采用丢弃部分请求的方式，具体为随机丢弃请求，或者根据来源、查询模式按照配置的优先级逐步丢弃不重要的请求，尽量确保重要的请求。但这种方式总是会导致服务的部分不可用。

现有技术的另一种应对超过服务能力的突发流量的方式是在集群中添加服务器，然而这种方式的缺点是反应慢，尤其是因为突发超过服务能力的流量一般来说是非正常的增长，在添加机器时，机器的准备以及数据的同步都需要时间，在这段时间内可能导致搜索服务器集群进入部分服务不可用的状态，并且，在机器添加过程中还需要人工介入，不够智能，反应滞后，不能快速应对突发的流量尖峰。

因此，目前需要本领域技术人员迫切解决的一个技术问题就是：提出一种服务器集群的服务能力控制机制，用以快速应对超过服务能力的突发流量，并确保服务不中断。

发明内容

本申请所要解决的技术问题是，提供一种服务器集群的服务能力控制方法和系统，用以快速应对超过服务能力的突发流量，并确保服务不中断。

为了解决上述问题，本申请公开了一种服务器集群的服务能力控制方法，包括：

监控集群中服务器的服务状态信息，并判断所述服务状态信息是否超过预设阈值；

若是，则按照所述服务状态信息确定在后的服务请求所分发的服务器数量，所述在后服务请求所分发的服务器数量小于所述服务状态信息未超过预设阈值时服务请求所分发的服务器数量；

按照所述在后服务请求所分发的服务器数量，按照预置规则确定集群中相应数量的目标服务器；

将接收的服务请求分发至所述目标服务器。

优选的，所述集群中包括分发查询请求/合并查询结果的服务器Merger，以及，提供查询服务的服务器Searcher，其中，所述提供查询服务的服务器Searcher采用行列式分布，一行M个提供查询服务的服务器Searcher上的数据构成一份完整数据，一列N个提供查询服务的服务器Searcher上的数据是一致的；其中，M、N＞1且为整数。

优选的，所述服务状态信息为以下状态信息中的至少一种：

提供查询服务的服务器Searcher中的任务队列长度；

提供查询服务的服务器Searcher中的CPU负载情况；

提供查询服务的服务器Searcher处理一个服务请求的平均时间。

优选的，所述监控集群中服务器的服务状态信息，并判断所述服务状态信息是否超过预设阈值的步骤包括：

各台提供查询服务的服务器Searcher定时或实时汇报其自身的服务状态信息；

汇总所述各台提供查询服务的服务器Searcher汇报的服务状态信息，根据汇总后的服务状态信息，判断所述是否超过预设阈值。

优选的，所述在服务状态信息超过预设阈值时，按照服务状态信息确定在后的服务请求所分发的服务器数量的步骤包括：

在服务状态信息超过预设阈值时，按照服务状态信息确定对应的服务降级级别；

根据所述服务降级级别确定在后的服务请求所分发的服务器数量。

优选的，所述服务降级级别包括多个级别，各个服务降级级别分别具有对应的服务器分发数量信息；

所述在服务状态信息超过预设阈值时，按照服务状态信息确定对应的服务降级级别的步骤包括：