[发明专利]一种基于集群的任务调度处理方法、系统和计算机设备在审
申请号: | 202110473747.9 | 申请日: | 2021-04-29 |
公开(公告)号: | CN113296907A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 马力 | 申请(专利权)人: | 上海淇玥信息技术有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 北京清诚知识产权代理有限公司 11691 | 代理人: | 乔东峰 |
地址: | 201500 上海市崇明*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 集群 任务 调度 处理 方法 系统 计算机 设备 | ||
1.一种基于集群的任务调度处理方法,其特征在于,包括:
根据第一时间周期从集群中获取任务开始时间在上一周期内的所有历史任务数据,并将任务数据存储到数据库中;
根据第二时间周期从数据库中调取任务数据进行分析;
使用任务调度计算模型进行任务调度参数优化计算,以更新所述集群的任务调度策略。
2.根据权利要求1所述的任务调度处理方法,其特征在于,所述第一时间周期和第二时间周期的周期时长相同,但时间节点间隔预定时长。
3.根据权利要求1所述的任务调度处理方法,其特征在于,所述从数据库中调取任务数据进行分析包括:
计算任务的资源使用值或资源浪费值。
4.根据权利要求1所述的任务调度处理方法,其特征在于,所述从数据库中调取任务数据进行分析包括:
计算任务所占用的物理内存值。
5.根据权利要求1所述的任务调度处理方法,其特征在于,所述从数据库中调取任务数据进行分析包括计算任务的数据倾斜度和/或任务的执行时间倾斜度。
6.根据权利要求1所述的任务调度处理方法,其特征在于,所述使用所述任务调度计算模型进行调整参数的优化计算,以更新任务调度策略包括:
根据所计算的任务资源使用值或资源浪费值、数据倾斜度、执行时间倾斜度和所占用的物理内存值,进一步计算与任务资源使用、数据倾斜、所占用的物理内存相对应的调整值;
根据所计算的各调整值,更新任务调度策略。
7.根据权利要求1所述的任务调度处理方法,其特征在于,还包括:
接收待执行任务的申请请求,使用任务调度计算模型确定与该待执行任务相对应的调度策略,以执行所述待执行任务。
8.根据权利要求7所述的任务调度处理方法,其特征在于,所述调度策略包括任务的执行开始时间、执行结束时间、执行模块和执行节点。
9.一种基于集群的任务调度处理系统,其特征在于,包括:
数据获取模块,用于根据第一时间周期从集群中获取任务开始时间在上一周期内的所有历史任务数据,并将任务数据存储到数据库中;
分析处理模块,根据第二时间周期从数据库中调取任务数据进行分析;
更新模块,使用任务调度计算模型进行任务调度参数优化计算,以更新所述集群的任务调度策略。
10.根据权利要求9所述的任务调度处理系统,其特征在于,所述第一时间周期和第二时间周期的周期时长相同,但时间节点间隔预定时长。
11.根据权利要求9所述的任务调度处理系统,其特征在于,还包括第一计算模块,所述计算模块用于计算任务的资源使用值或资源浪费值。
12.根据权利要求9所述的任务调度处理系统,其特征在于,还包括第二计算模块,该第二计算模块用于计算任务所占用的物理内存值。
13.根据权利要求9所述的任务调度处理系统,其特征在于,所述从数据库中调取任务数据进行分析包括计算任务的数据倾斜度和/或任务的执行时间倾斜度。
14.根据权利要求9所述的任务调度处理系统,其特征在于,所述使用所述任务调度计算模型进行调整参数的优化计算,以更新任务调度策略包括:
根据所计算的任务资源使用值或资源浪费值、数据倾斜度、执行时间倾斜度和所占用的物理内存值,进一步计算与任务资源使用、数据倾斜、所占用的物理内存相对应的调整值;
根据所计算的各调整值,更新任务调度策略。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海淇玥信息技术有限公司,未经上海淇玥信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110473747.9/1.html,转载请声明来源钻瓜专利网。