[发明专利]一种基于去中心化作业任务的分布式高并发调度系统在审

专利信息
申请号: 202210669827.6 申请日: 2022-06-14
公开(公告)号: CN115061814A 公开(公告)日: 2022-09-16
发明(设计)人: 钱苏晋;熊江舟;吴志勇;饶涛;邓亮戈 申请(专利权)人: 北京恒泰实达科技股份有限公司
主分类号: G06F9/50 分类号: G06F9/50;G06F9/54
代理公司: 北京市盛峰律师事务所 11337 代理人: 于国强
地址: 100194 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 中心 化作 任务 分布式 并发 调度 系统
【权利要求书】:

1.一种基于去中心化作业任务的分布式高并发调度系统,其特征在于:包括,

分布式消息队列;用于实现包括心跳、作业全量加载、作业全量同步、作业分派和作业调度在内的数据交互;

节点;节点包括调度器和执行器;节点定时向向指定的分布式消息队列发送心跳,告知其他节点自己的存活状态;所述节点在加入集群时,第一时间发送注册消息到指定的分布式消息队列,告知其他节点自己的存在;调度器注册成功后,由主调度器分派调度任务,同步作业;执行器注册成功后,主调度器同步全量作业,所有调度器添加可调度的执行器的信息;

内存数据库;用于作为缓存使用;

节点发送数据至指定的分布式消息队列中,供其他节点消费,进而实现与其他节点的数据交互通信;对于发送的重要数据,自动保存在内存数据库中,以便提高数据持久化效率。

2.根据权利要求1所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:调度器集群中,存在一主多从,主节点的选举方式为抢占式,需要定期重置内存数据库的Leader锁标识,Leader锁标识在预设时间内过期,Leader锁标识的值为调度器的唯一Hash标识符,那个调度器先抢占该Leader锁标识,该调度器即为主节点,其余调度器即为从节点。

3.根据权利要求2所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:调度器集群中,采用一主多从运行模式,主节点和从节点分工不同,所有节点都在工作;主调度器需实现作业全量加载、作业全量同步、作业分派功能,主调度器和从调度器都需实现已分派作业的工作调度;

作业全量加载具体为:通知所有执行器,汇总所有需要执行的作业,或者直接查询内存数据库,作业全量加载是在调度器竟争成为主调度器后,若本身从未执行过作业全量加载,则触发该项功能;

作业全量同步具体为:由主节点发送同步消息给所有从节点,包括调度器和执行器;调度器以及执行器收到消息后,从内存数据库中加载所有作业数据至本地;此功能用于令所有节点本地数据保持一致性;

作业分派具体为:主调度器需要执行作业分派,通过负载均衡的理念,将全量作业均衡的分派到所有调度器中,包括自己;各个调度器领到作业后,就开始调度每个调度器都保存有当前的全量作业;作业分派即分派作业的ID,每个调度器都保存有当前的全量作业,调度器只负责自己领取作业的调度;作业分派包括全量、添加和删除三种类型;

工作调度具体为,调度器一直在进行作业的调度计算,该项工作不分角色,即主调度器与从调度器都同时在进行,某一作业一旦到达需要执行的时间点时,会发送通信消息给执行器,通知其执行任务;作业调度伴随调度器整个生命周期,永不停歇。

4.根据权利要求1所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:当作业存在增删改查时,会发送消息到指定的分布式消息队列,所有节点消费并同步增删改查作业,实现作业的一致性。

5.根据权利要求4所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:节点同步增删改查作业的具体过程为,

当节点收到消息后,会判断该消息的操作类型,操作类型中会明显标识出新增、查询、修改、删除;针对不同类型触发不同的动作。

6.根据权利要求4所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:节点消费的过程即为分布式消息队列的消费者接收消息的过程,具体为,

S1、消费者创建连接开启一个信道,连接到分布式消息队列的服务器;

S2、向服务器请求消费相应分布式消息队列中的消息,并设置相应的回调函数;

S3、等待服务器回应闭关投递相应分布式消息队列中的消息,消费者接收消息;

S4、确认接收到的消息;

S5、从分布式消息队列中删除相应已经被确认的消息;

S6、关闭信道;

S7、关闭连接。

7.根据权利要求1所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:系统采用弱中心化模式,即主节点宕机后,在选举过程中,其他从节点的调度工作不受影响,能够一直持续执行任务的调度工作。

8.根据权利要求1所述的基于去中心化作业任务的分布式高并发调度系统,其特征在于:所有的节点都将全量作业保存在线程安全的集合中。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京恒泰实达科技股份有限公司,未经北京恒泰实达科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210669827.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top