[发明专利]处理请求的方法和装置

说明书

本发明公开了处理请求的方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：根据服务标识设置线程处理请求的处理时长；其中，所述请求中携带所述服务标识；按照所述处理时长控制所述线程处理所述请求。该实施方式公平处理每个请求，提高处理的适用性，提高了线程的利用率。

技术领域

本发明涉及计算机技术领域，尤其涉及一种处理请求的方法和装置。

背景技术

目前，在现有技术中，主要有两种处理请求的方式：

如图1所示，第一种处理请求的方式包括：线程池中的一个线程从请求队列中获取请求，将该请求发送给服务1，等待服务1响应请求并返回的结果，发送结果给请求的发送端。所有请求均由线程池来处理，并由相应的服务来响应。

如图2所示，第二种处理请求的方式包括：线程池1中的一个线程从请求队列1中获取请求，将该请求发送给服务1，等待服务1响应请求并返回的结果，发送结果给请求的发送端；线程池2中的一个线程从请求队列2中获取请求，将该请求发送给服务2，等待服务2响应请求并返回的结果，发送结果给请求的发送端；线程池3中的一个线程从请求队列3中获取请求，将该请求发送给服务3，等待服务3响应请求并返回的结果，发送结果给请求的发送端。线程池1、线程池2和线程池3中的资源相同。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：

现有方式1只适用于服务1到服务N的性能接近的场景，因为现有方式1的设计理念是基于请求处理彼此公平。但实际是，各个服务的性能参差不齐，由于共同使用线程池，容易导致线程池一直处理一种类型的请求，而另一种类型的请求处于不公平的处理状态。在高并发的情况下，线程池所有线程均在处理一种类型的请求，导致另一种类型的请求超时或者被拒绝。由此，导致了，处理请求的不公平。

现有方式2中，请求队列1、请求队列2和请求队列3中的请求的类型均不相同，例如，请求队列1中是一种类型的请求，线程池1只处理请求队列1中的一种类型的请求；再例如，请求队列2中是另一种类型的请求，线程池2只处理请求队列2中的另一种类型的请求。如此，则解决了现有方式1存在的处理不公平的问题。并且，相同类型的请求被同一线程池中线程处理，不同类型的请求的处理过程彼此隔离。但是，由于一种类型的请求的处理所消耗时间短，因而，线程池2不会被完全利用；而另一种类型的请求的处理所消耗时间长，因而，线程池1不够用。由此，导致了处理请求的不公平。

发明内容

有鉴于此，本发明实施例提供一种处理请求的方法和装置，能够公平处理每个请求。

为实现上述目的，根据本发明实施例的一个方面，提供了一种处理请求的方法。

本发明实施例的处理请求的方法，包括：

根据服务标识设置线程处理请求的处理时长；其中，所述请求中携带所述服务标识；

按照所述处理时长控制所述线程处理所述请求。

在一个实施例中，根据服务标识设置线程处理请求的处理时长，包括：

根据服务标识判断是否使用TP算法设置线程处理请求的处理时长；

若是，则使用所述TP算法设置线程处理请求的处理时长；

若否，则将所述服务标识对应的最大处理时长设置为线程处理请求的处理时长；

所述处理时长是所述线程发送所述请求给服务的时长、所述线程等待所述服务响应所述请求并返回结果的时长、以及所述线程发送所述结果的时长之和；

所述服务标识包括网关分配给所述服务的信息，或，所述服务提供给所述网关的信息。

在一个实施例中，根据服务标识判断是否使用TP算法设置线程处理请求的处理时长，包括：