[发明专利]线程数评估方法及装置

说明书

本发明提出一种线程数评估方法及装置，其中方法包括：获取检索系统中待评估的服务器的参数信息，参数信息包括：平均流量、平均处理时间；建立参数信息与性能参数信息之间的关系式；性能参数信息包括：服务器上的请求总数、等待处理的请求个数、平均等待时间、平均响应时间；性能参数信息与服务器的线程数存在关联关系，随服务器的线程数的变化而变化；结合关系式、参数信息以及排队模型，获取平均响应时间满足预期响应时间时的线程数；将线程数确定为服务器的线程数，从而能够结合服务器的参数信息、参数信息与性能参数信息之间的关系式以及排队模型，确定线程数，不需要对线程数进行多次调整，且时间周期短，能够确保检索系统的稳定性要求。

技术领域

本发明涉及检索技术领域，尤其涉及一种线程数评估方法及装置。

背景技术

目前，超大规模检索系统，例如谷歌、百度等，通常是由数目众多的服务器组成集群来提供信息检索服务，每台服务器上部署相应功能的检索程序。而检索程序的线程数直接影响检索系统对用户请求的响应速度。目前对检索程序的线程数的设置方法是，先设定一个初始线程数，之后根据检索系统的实际运行情况，对初始线程数进行多次调整，直至响应速度符合预期为止。

上述方案中，对线程数的多次调整，难以确保检索系统的稳定性要求，迭代周期长，且在调整线程数的过程中，如果调整不合理，会导致响应速度变慢。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的第一个目的在于提出一种线程数评估方法，用于解决现有技术中线程数需要经过多次调整，效率差，且检索系统稳定性难以确保的问题。

本发明的第二个目的在于提出一种线程数评估装置。

本发明的第三个目的在于提出另一种线程数评估装置。

本发明的第四个目的在于提出一种非临时性计算机可读存储介质。

本发明的第五个目的在于提出一种计算机程序产品。

为达上述目的，本发明第一方面实施例提出了一种线程数评估方法，包括：

获取检索系统中待评估的服务器的参数信息，所述参数信息包括：平均流量、平均处理时间；

建立所述参数信息与性能参数信息之间的关系式；所述性能参数信息包括：所述服务器上的请求总数、等待处理的请求个数、平均等待时间、平均响应时间；所述性能参数信息与所述服务器的线程数存在关联关系，随所述服务器的线程数的变化而变化；

结合所述关系式、所述参数信息以及排队模型，获取平均响应时间满足预期响应时间时的线程数；

将所述线程数确定为所述服务器的线程数。

进一步地，所述获取检索系统中待评估的服务器的参数信息，包括：

获取所述服务器在第一单位时间段内的流量；

根据所述流量，以及所述流量所服从的泊松分布，确定所述平均流量；

获取所述服务器对第一请求的处理时间；

根据所述处理时间，以及所述处理时间所服从的负指数分布，确定所述平均处理时间。

进一步地，所述根据所述流量，以及所述流量所服从的泊松分布，确定所述平均流量之后，还包括：

根据第一系数对所述平均流量进行处理，得到处理后平均流量；所述第一系数根据流量高峰情况确定；所述第一系数大于1；

采用所述处理后平均流量对所述平均流量进行更新。

进一步地，所述排队模型获取平均响应时间满足预期响应时间时的线程数的过程为，