[发明专利]面向大数据处理的分布式调度系统、方法及存储介质在审
申请号: | 202011069582.0 | 申请日: | 2020-09-30 |
公开(公告)号: | CN112162841A | 公开(公告)日: | 2021-01-01 |
发明(设计)人: | 黄立;蔡春茂;段朋 | 申请(专利权)人: | 重庆长安汽车股份有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06F9/54;G06F16/2455;G06F16/27;G06F16/28 |
代理公司: | 重庆华科专利事务所 50123 | 代理人: | 谭小琴 |
地址: | 400023 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种面向大数据处理的分布式调度系统、方法及存储介质,包括调度中心模块,用于负责工作流的依赖配置和作业开发;领导者模块,作为集群中的任务流切分和分配节点,根据依赖关系切分调度中心配置的工作流,将切分出来的具体任务节点发送给追随者节点;追随者模块,用来执行由领导者模块分配的具体计算任务,提交任务结果,保存任务执行日志;协调者模块,用于定时从数据库中取出需要执行的任务,并根据当前所有领导者模块的负载情况,采用Round‑Robin算法进行领导者模块的负载均衡;任务队列模块和元数据模块。本发明考虑到了任务上的依赖,避免了因上游任务的执行时间超时或空跑,导致下游任务出现空跑的现象,有利于整个数据流转。 | ||
搜索关键词: | 面向 数据处理 分布式 调度 系统 方法 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆长安汽车股份有限公司,未经重庆长安汽车股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011069582.0/,转载请声明来源钻瓜专利网。