[发明专利]一种保证延迟敏感应用延迟SLO的动态调控资源方法及系统

权利要求书

1.一种保证延迟敏感应用延迟SLO的动态调控资源方法，其特征在于，包括：

步骤1、在分布式存储系统的服务节点中创建多个请求队列，不同类型的请求位于不同的队列，并根据该服务节点的逻辑线程资源和延迟敏感型应用的目标尾延迟需求，为请求队列分配线程组，且各请求队列的线程组与该服务节点的物理CPU资源相绑定；

步骤2、服务节点内部延迟敏感型应用队列请求按窗口划分，结合窗口信息与延迟敏感型队列目标尾延迟需求分配线程资源，并实时监控窗口内请求处理速率以及后续请求的到达速率，实时动态调控延迟敏感型队列的线程资源以保证目标尾延迟需求，剩余线程资源将用于服务其他应用；

步骤3、客户端发送应用访问请求至该服务节点，该服务节点根据该应用访问请求的类型，将该应用访问请求存入与其类型相对应的请求队列作为当前队列，并使用为该当前队列分配的线程组处理该应用访问请求，将处理结果发送给该客户端；

其中，该请求类型包括访问延迟敏感类型，该步骤3包括：

步骤31、将访问延迟敏感类型的请求队列设为延迟敏感队列，将延迟敏感队列中应用访问请求以窗口为单位进行划分，当延迟敏感队列中第一个请求被处理时，当前延迟敏感队列中所有请求视为一个窗口W_i，则后续进入敏感队列的第一个请求为下一个窗口W_i+1的第一个请求；

步骤32、对于窗口W_i，在其生命周期内维护如下信息：{ER_i，QL_i，TW_i，DR_i}，其中，ER_i为窗口W_i的请求入队速率，QL_i为窗口Wi大小，TW_i为等待时间，DR_i为窗口W_i的请求出队速率；窗口W_i的窗口大小未确定时，其DR_i≡0且ER_i＞0，此时仍有请求入队，一旦窗口W_i确定后，其ER_i≡0且DR_i＞0，此时窗口W_i内的请求将出队被分配的线程组处理；

且该步骤3包括：

步骤33、根据延迟敏感型应用的目标尾延迟T_slo和请求的I/O时间T_io，并结合窗口W_i所维护的状态信息，在窗口W_i初始时为其分配N_i个线程，N_i按照如下公式进行估算：

该步骤3还包括步骤34、步骤35，或该步骤3还包括步骤36、步骤37；

该步骤34、对于窗口W_i，假定在T_i时刻第i个请求出队，在T_j时刻第j个请求出队，在时间T_j-T_i内，出队的请求数为DQ_i，则请求的出队速率DR_i为DQ_i/(T_j-T_i)，窗口w_i的理想出队速率为QL_i/(T_slo-T_io-TW_i)；

该步骤35、实时监测窗口W_i内请求出队速率DR_i与理想出队速率之间的差距，若则将窗口W_i内的所需线程数N_i设置为系统总线程数N；若则根据计算窗口W_i所需的线程数；

该步骤36、对于窗口W_i，假定在T_i时刻第i个请求入队，在T_j时刻第j个请求入队，在时间T_j-T_i内，入队的请求数为EQ_i，则请求的入队速率ER_i为EQ_i/(T_j-T_i)；

该步骤37、实时监测窗口W_i内请求出队速率DR_i与窗口W_i+1的请求入队速率ER_i+1，对于窗口W_i来说，若DR_i＜ER_i+1，则将窗口W_i内的线程数量设置为系统总线程N；若DR_i≥ER_i+1，则再次根据计算窗口W_i所需的线程数。