[发明专利]一种基于SLA的无状态云工作流负载均衡调度的方法

摘要

本发明公开了一种基于SLA的无状态云工作流负载均衡调度的方法，本发明根据不同租户对其业务场景和流程模型的需要，选择不同的SLA级别，通过不同的SLA级别，云工作流系统对租户提供不同的请求吞吐量服务，并对不同的流程请求进行分级服务，结合共享内存实现的引擎负载实时监控和流程模型在引擎上分布状况，在消减了引擎服务的请求波峰的同时还减少了引擎集群的整体内存开销，从而提高云工作流在多租户架构下负载均衡的能力，使得流程服务提供商在满足不同租户对请求吞吐量和不同流程定义的解析执行性能需求的基础上，可以为更多的租户提供服务。

主权项

1.一种基于SLA的无状态云工作流负载均衡调度的方法，其特征在于：当接收租户上传流程模型所对应的流程实例请求时，云工作流将流程实例请求调度到集群中的无状态工作流引擎中，执行包括以下步骤：准入层负载波形平滑：S101：准入层接收租户流程实例请求，准入层根据租户ID或流程实例请求信息从租户SLA仓库获取该租户的服务请求到达速率RAR指标以及对于该流程实例请求的请求响应时间级别RTL；S102：根据系统限流算法，判断租户服务请求速率是否满足RAR指标，如果超过RAR指标指定的服务请求速率，则直接过滤请求，并向租户反馈，提示购买更高的RAR级别，否则执行下一步；S103：判断RTL级别，根据不同的RTL级别执行调度层请求均衡分派，或获取当前立即执行队列和迟延队列的请求数，使用历史负载变量historySize，根据迟延队列的请求数，计算当前的流程实例请求针对每个延迟队列的评分，并将该流程实例请求放于评分最高的延迟队列中；调度层请求均衡分派：S201：调度层接收来自准入层立即执行队列的请求，调度层从共享内存获取流程服务层发送的每个流程引擎服务的负载信息集合E＝[e₁，...，e_m]，e_i＝(cpu_i，ram_i)，cpu_i表示流程引擎服务e_i当前的cpu占用率，ram_i表示流程引擎服务e_i当前的ram占用率；S202：调度层从流程实例仓库中获取请求的流程模型对应的流程实例在流程引擎服务的分布状况集合D＝[d₁，d₂，...，d_m]，d_i∈[0，1]，当d_i＝0时表示该流程模型没有运行过在e_i引擎上，否则反之；S203：根据分布状况集合D，将流程引擎服务分为两组E₁和E₂，E₁中存放了所有流程模型执行过的引擎，也即d_i＝1；E₂存放了剩余的引擎；S204：针对E₁和E₂的元素进行引擎繁忙度计算，分别得到E₁、E₂的繁忙度最小的引擎服务判断不等式是否成立，如果不等式成立，将流程实例请求分派到否则分派到并修改流程实例仓库中的分布状况集合；完成流程实例请求调度；其中，β是作为将流程实例请求分配到新引擎的代价参数，可根据具体硬件资源特性进行设置。