[发明专利]服务调度方法、装置、设备以及存储介质

权利要求书

1.一种服务调度方法，包括：

接收至少一个客户端发送的并发请求；

为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；

响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；

将所述预估排队时间发送给发送该请求的客户端，以使所述客户端根据所述预估排队时间调整请求发送策略。

2.根据权利要求1所述的方法，其中，所述多条流水线通过以下步骤生成：

获取服务器的资源的上限值；

基于所述上限值生成多条用于并发处理请求的流水线。

3.根据权利要求1所述的方法，其中，所述为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线，包括：

对于所述并发请求中的每个请求，基于贪心算法从所述多条流水线中确定用于处理该请求的目标流水线。

4.根据权利要求1所述的方法，还包括：

基于所述目标流水线处理请求的平均时间以及所述目标流水线中待处理请求的个数，得到所述目标流水线对所述请求的预估处理时间；

将所述预估处理时间与所述请求的预设超时时间进行比较，确定所述预估处理时间是否超过所述预设超时时间。

5.根据权利要求4所述的方法，其中，所述获取该请求在所述目标流水线中的预估排队时间，包括：

将所述预估处理时间作为该请求在所述目标流水线中的预估排队时间。

6.根据权利要求4所述的方法，还包括：

响应于确定所述预估处理时间不超过所述预设超时时间，将所述请求直接放入处理队列。

7.根据权利要求1-6中任一项所述的方法，还包括：

响应于确定所述客户端数量增加，增大所述客户端发送请求的周期。

8.一种服务调度装置，包括：

接收模块，被配置成接收至少一个客户端发送的并发请求；

确定模块，被配置成为所述并发请求中的每个请求从预先生成的多条流水线中确定用于处理该请求的目标流水线；

获取模块，被配置成响应于确定所述目标流水线对所述请求的预估处理时间超过该请求的预设超时时间，获取该请求在所述目标流水线中的预估排队时间；

发送模块，被配置成将所述预估排队时间发送给发送该请求的客户端，以使所述客户端根据所述预估排队时间调整请求发送策略。

9.根据权利要求8所述的装置，其中，所述多条流水线通过以下步骤生成：

获取服务器的资源的上限值；

基于所述上限值生成多条用于并发处理请求的流水线。

10.根据权利要求8所述的装置，其中，所述确定模块包括：

确定子模块，被配置成对于所述并发请求中的每个请求，基于贪心算法从所述多条流水线中确定用于处理该请求的目标流水线。

11.根据权利要求8所述的装置，还包括：

得到模块，被配置成基于所述目标流水线处理请求的平均时间以及所述目标流水线中待处理请求的个数，得到所述目标流水线对所述请求的预估处理时间；

比较模块，被配置成将所述预估处理时间与所述请求的预设超时时间进行比较，确定所述预估处理时间是否超过所述预设超时时间。

12.根据权利要求11所述的方法，其中，所述获取模块包括：

获取子模块，被配置成将所述预估处理时间作为该请求在所述目标流水线中的预估排队时间。

13.根据权利要求11所述的装置，还包括：

处理模块，被配置成响应于确定所述预估处理时间不超过所述预设超时时间，将所述请求直接放入处理队列。