[发明专利]大数据任务动态编排调度方法、装置及计算设备在审
申请号: | 202011389768.4 | 申请日: | 2020-12-02 |
公开(公告)号: | CN112363819A | 公开(公告)日: | 2021-02-12 |
发明(设计)人: | 徐文振 | 申请(专利权)人: | 深圳市房多多网络科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 北京市浩天知识产权代理事务所(普通合伙) 11276 | 代理人: | 王广涛 |
地址: | 518000 广东省深圳市南山区科*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 任务 动态 编排 调度 方法 装置 计算 设备 | ||
1.一种大数据任务动态编排调度方法,其特征在于,所述方法包括:
将多个任务根据依赖关系构成有向无环图,其中,所述有向无环图中的圆圈代表任务,圆圈中的数字表示执行所述任务的资源需求数量;
每隔第一预设时间对所述有向无环图中有限时要求的关键任务的资源需求数量进行动态加权;
根据预设的规则执行所述有向无环图中的所述任务。
2.根据权利要求1所述的方法,其特征在于,所述将多个任务根据依赖关系构成有向无环图,包括:
每新增加一个任务,根据依赖关系将所述任务增加至所述有向无环图中,并根据资源情况指定一个值作为所述任务的资源需求数量。
3.根据权利要求1所述的方法,其特征在于,所述将多个任务根据依赖关系构成有向无环图,包括:
对于所述有向无环图中的无时限要求的所述任务,每隔第二预设时间根据所述任务历史执行时间的中位数更新所述任务的资源需求数量。
4.根据权利要求3所述的方法,其特征在于,所述每隔第二预设时间根据所述任务历史执行时间的中位数更新所述任务的资源需求数量,包括:
每天将所述任务最近7天执行时间的中位数更新为所述任务的资源需求数量。
5.根据权利要求1所述的方法,其特征在于,所述每隔第一预设时间对所述有向无环图中有限时要求的关键任务的资源需求数量进行动态加权,包括:
对于所述有向无环图中的有时限要求的所述关键任务,每隔一分钟根据剩余分钟数对所述关键任务的资源需求数量进行动态加权,其中剩余分钟数等于时限与当前时间的差值。
6.根据权利要求5所述的方法,其特征在于,所述根据剩余时间对所述关键任务的资源需求数量进行动态加权,包括:
根据所述剩余分钟数计算加权值,所述加权值=(60-剩余分钟数)*2;
将所述关键任务的资源需求数量更新为所述加权值。
7.根据权利要求1所述的方法,其特征在于,所述根据预设的规则执行所述有向无环图中的所述任务,包括:
每次选择由未执行任务构成的所述有向无环图中最长链路的根节点作为当前任务节点,其中,依赖未完成的所述任务不参与当前次选择;
执行所述当前任务节点的任务直至执行完所述有向无环图中的所有任务。
8.一种大数据任务动态编排调度装置,其特征在于,所述装置包括:
图构成单元,用于将多个任务根据依赖关系构成有向无环图,其中,所述有向无环图中的圆圈代表任务,圆圈中的数字表示执行所述任务的资源需求数量;
动态加权单元,用于每隔第一预设时间对所述有向无环图中有限时要求的关键任务的资源需求数量进行动态加权;
任务执行单元,用于根据预设的规则执行所述有向无环图中的所述任务。
9.一种计算设备,其特征在于,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行根据权利要求1-7任一项所述大数据任务动态编排调度方法的步骤。
10.一种计算机存储介质,其特征在于,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行根据权利要求1-7任一项所述大数据任务动态编排调度方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市房多多网络科技有限公司,未经深圳市房多多网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011389768.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种工地用的钢筋折弯机
- 下一篇:一种白酒废水处理系统及处理方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置