[发明专利]一种面向信创领域高效可靠的分布式任务调度方法及系统在审
申请号: | 202111198840.X | 申请日: | 2021-10-14 |
公开(公告)号: | CN113946407A | 公开(公告)日: | 2022-01-18 |
发明(设计)人: | 王伟东;郭家鑫;胡启晋;刘志波;贾大玮;王金生;杨宇 | 申请(专利权)人: | 中国软件与技术服务股份有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455 |
代理公司: | 北京君尚知识产权代理有限公司 11200 | 代理人: | 司立彬 |
地址: | 100081 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 领域 高效 可靠 分布式 任务 调度 方法 系统 | ||
1.一种面向信创领域高效可靠的分布式任务调度方法,其步骤包括:
1)设置多个任务执行器构成一个任务执行器集群,设置多个主从选举器;
2)利用各所述主从选举器对该任务执行器集群中的任务执行器进行选举,选举出一个任务执行器作为调度执行器,其余任务执行器作为工作执行器;所述调度执行器,用于定时获取任务列表、任务拆分、任务下发、工作执行器状态监控;所述工作执行器用于执行收到的任务;
3)调度执行器从业务系统定时获取任务列表,再通过分片算法将任务分片之后将任务下发给工作执行器,工作执行器根据收到的任务在该业务系统中执行对应的业务逻辑处理,并将处理结果返回为所述调度执行器;当调度执行器失效时,通过各所述主从选举器重新选举产生新的调度执行器;当工作执行器失效时,根据任务下发方式执行对应的策略保障任务不丢失:a)如果任务下发方式为一致性协议算法,每个工作执行器由主从选举器提供存储区,当工作执行器故障时,调度执行器从出现故障的工作执行器对应的存储区回收故障工作执行器的任务,进行任务重新派发;b)如果任务下发方式为消息队列,根据消息队列提供的未消费队列的超时重试机制进行任务重新派发。
2.如权利要求1所述的方法,其特征在于,所述任务执行器中包括一任务设置数据模型,其包括分配给工作执行器的最小任务数量、任务分片方法、工作执行器执行任务线程数量、主从选举器访问地址和任务下发方式。
3.如权利要求2所述的方法,其特征在于,所述任务分片方法包括水平分片方法、循环分片方法和整体分片方法。
4.如权利要求3所述的方法,其特征在于,所述水平分片方法为:首先根据任务执行器的数量确定分组数,然后将任务按照分组数与每个分组最少任务数,将任务连续地分配到一个分组后再进行下一个分组分配任务,直至任务分配完毕。
5.如权利要求3所述的方法,其特征在于,所述循环分片方法为:首先根据任务执行器的数量确定分组数,然后将任务按照分组数与每组最少任务数的要求,将任务循环地在分组之间分配。
6.如权利要求3所述的方法,其特征在于,所述整体分片方法为:将所有任务放在一个分组。
7.如权利要求1所述的方法,其特征在于,所述调度执行器中设置有initJob接口、afterSharding接口;其中,initJob接口包括入口参数nodeNumber,用于设置工作执行器数量;afterSharding接口用于对成功分片的任务进行业务状态处理。
8.如权利要求1所述的方法,其特征在于,所述工作执行器中设置有单任务处理接口和批处理任务接口;其中,当工作执行器调用单任务处理接口时,将任务Id作为单任务处理接口的入口参数,然后根据执行任务线程数量封装多线程处理逻辑;当工作执行器调用批量任务处理接口时,将任务列表作为批量任务处理接口的入口参数,然后进行同步单线程或异步多线程实现业务处理逻辑。
9.一种面向信创领域高效可靠的分布式任务调度系统,其特征在于,包括多个主从选举器构成的选举器集群,多个任务执行器构成的任务执行器集群;其中,
所述选举器集群,用于对该任务执行器集群中的任务执行器进行选举,选举出一个任务执行器作为调度执行器,其余任务执行器作为工作执行器;
所述调度执行器,用于从业务系统定时获取任务列表,然后进行任务拆分、任务下发,以及监控工作执行器的状态;
所述工作执行器,用于根据收到的任务在该业务系统中执行对应的业务逻辑处理,并将处理结果返回为所述调度执行器。
10.如权利要求9所述的系统,其特征在于,当调度执行器失效时,通过各所述主从选举器重新选举产生新的调度执行器;当工作执行器失效时,根据任务下发方式执行对应的策略保障任务不丢失:a)如果任务下发方式为一致性协议算法,每个工作执行器由主从选举器提供存储区,当工作执行器故障时,调度执行器从出现故障的工作执行器对应的存储区回收故障工作执行器的任务,进行任务重新派发;b)如果任务下发方式为消息队列,根据消息队列提供的未消费队列的超时重试机制进行任务重新派发。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国软件与技术服务股份有限公司,未经中国软件与技术服务股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111198840.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种复合阻燃防水卷材及其制造方法
- 下一篇:一种可循环使用的电子雾化器