[发明专利]请求分配方法及装置

权利要求书

1.一种请求分配方法，其特征在于，所述方法包括：

获取请求队列中k个待处理请求的预计处理耗时的总和，所述k为大于1的整数；

获取每一种类型的请求的历史统计数据，其中，目标类型的请求的历史统计数据包括：所述目标类型的请求在历史统计周期内的统计数量，以及所述目标类型的请求中的每一个请求的实际处理耗时；

根据每一种类型的请求的历史统计数据和每一种类型的请求的超时阈值，分别确定每一种类型的请求的超时率，其中，所述目标类型的请求的超时率等于所述目标类型的请求的超时数量与所述统计数量的商，所述目标类型的请求的超时数量是指所述目标类型的请求中，所述实际处理耗时大于所述目标类型的请求的超时阈值的请求数量；

根据所述k个待处理请求各自的类型，以及每一种类型的请求的超时率，计算所述k个待处理请求的超时率的平均值，所述待处理请求的超时率是指所述待处理请求发生超时情况的概率；

若所述平均值等于0，则将所述k个待处理请求的预计处理耗时的总和与线程数量n相除，得到所述n个线程中的每一个线程对应的切片时间，所述n为大于1的整数；

若所述平均值大于0，则计算所述线程数量n和第一系数a的乘积，并将所述k个待处理请求的预计处理耗时的总和与所述乘积相除，得到所述切片时间，所述a大于1；

根据所述n个线程中的每一个线程对应的切片时间，分别为所述n个线程中的每一个线程分配待处理请求，其中，为所述n个线程中的第i个线程分配的待处理请求的数量为p，所述p个待处理请求的预计处理耗时的总和不大于所述第i个线程对应的切片时间，所述p为小于k的正整数，所述i为小于或等于n的正整数。

2.根据权利要求1所述的方法，其特征在于，所述目标类型的请求的历史统计数据还包括：所述目标类型的请求中的每一个请求对应的设备负荷状态，所述设备负荷状态包括正常负荷状态和高负荷状态；

所述目标类型的请求的超时率包括：所述目标类型的请求在所述正常负荷状态下的超时率，和所述目标类型的请求在所述高负荷状态下的超时率。

3.根据权利要求1或2所述的方法，其特征在于，所述根据所述n个线程中的每一个线程对应的切片时间，分别为所述n个线程中的每一个线程分配待处理请求，包括：

将所述k个待处理请求划分为w个分组，其中，每一个分组中包括多个待处理请求，所述w个分组中的第j个分组中所有待处理请求的预计处理耗时的最小值，大于或者等于第j+1个分组中所有待处理请求的预计处理耗时的最大值，所述w为大于1的整数，所述j为小于w的正整数；

从所述w个分组中的第1个分组开始，依次从每一个分组中取出一个待处理请求分配给第一线程，当从第u个分组中取出的一个待处理请求分配给所述第一线程之后，若所述第一线程已分配到的待处理请求的预计处理耗时的总和大于所述第一线程对应的切片时间，则将所述从第u个分组中取出的一个待处理请求撤回，并从第u+1个分组中取出一个待处理请求分配给所述第一线程，以此类推，直至从所述w个分组中的最后一个分组中取出的一个待处理请求被分配给所述第一线程或者被分配给所述第一线程之后撤回，所述u为小于w的正整数，其中，所述第一线程是所述n个线程中的任意一个线程。

4.根据权利要求1或2所述的方法，其特征在于，所述根据所述n个线程中的每一个线程对应的切片时间，分别为所述n个线程中的每一个线程分配待处理请求之后，还包括：

当所述n个线程中存在目标线程时，计算所述n个线程中除所述目标线程以外的其它线程对应的切片时间的增加值，其中，所述目标线程是指被分配到的待处理请求中存在有概率发生超时情况的待处理请求的线程；

根据所述其它线程对应的切片时间的增加值，为所述其它线程分配待处理请求。