[发明专利]一种用于处理多阶段分布式任务调度的系统及方法有效
申请号: | 201310688919.X | 申请日: | 2013-12-16 |
公开(公告)号: | CN103647834B | 公开(公告)日: | 2017-03-22 |
发明(设计)人: | 龚伟;武剑锋;王泊;楼晓鸿;林志高;黄寅飞;吴征;徐乾;白硕 | 申请(专利权)人: | 上海证券交易所 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 上海三方专利事务所31127 | 代理人: | 吴干权,李美立 |
地址: | 200120 上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 处理 阶段 分布式 任务 调度 系统 方法 | ||
1.一种用于处理多阶段分布式任务调度的系统,其特征在于所述的系统由若干台负责具体业务处理的主机组成,每台主机负责一个或者多个产品集合处理,所有的主机之间通过存储区域网络共享访问磁盘,并通过共享磁盘来进行主机间数据同步,所有交易主机之间通过分布式锁进行消息同步,每台主机均部署功能模块和架构模块,功能模块负责归属本机产品集合的请求处理,分布式子事务处理主要在每台主机的功能模块完成,架构模块负责各主机在主机集群中的通讯和协调,多阶段任务调度则主要通过架构模块实施,在主机集群工作时,主机内部会推举一台主机兼做集群主节点,其他节点则自然成为集群从节点,主节点除了要负责归属本机产品集合的处理任务以外,还需承担整个集群上异步作业的管理,包括创建集群上的异步作业、触发从节点的数据同步、汇总从节点的处理结果。
2.如权利要求1所述的一种用于处理多阶段分布式任务调度的系统,其特征在于所述的系统将需要处理的事务全集划分为多个独立性、完备性的事务处理空间,所述的独立性指不同事务的处理空间无交集,所述的完备性指其中一个产品的事务处理只需在该产品对应的事务处理空间中即可完成,将各个独立完备的事务处理空间划分到多个产品集合,并将不同产品集合分布到不同的业务主机上进行处理,整个多机集群系统为多个独立处理的节点构成,所有独立处理节点的交集为空,并集为全体事务。
3.如权利要求1或2所述的一种用于处理多阶段分布式任务调度的系统,其特征在于所述的系统中所有从前台发来的事务通过通信层路由到主节点的架构模块,主节点架构模块将事务数据记入共享磁盘的工作页面日志文件,并通过同步锁触发从节点架构模块对于工作页面日志文件的重演,主从节点的架构 模块会将归属自己的事务请求发送到本机的功能模块执行处理,功能模块处理后的响应信息则通过通信层汇总到主节点架构模块,主节点架构模块处理完整个事务后,会通过通信层将响应信息下发回前台请求。
4.如权利要求1或2所述的一种用于处理多阶段分布式任务调度的系统,其特征在于所述的系统中所有的事务请求首先由主节点架构模块开始处理,主节点架构模块完成校验工作后,为事务请求创建一个异步作业,并将该异步事务作业发送到功能模块执行,此后主节点架构模块立即触发从节点架构模块对于工作页面日志文件的重演,从节点架构模块即根据日志文件中记录的数据在本地创建相同的事务异步作业和请求数据,并将作业请求也发送到本地的功能模块处理,各节点的功能模块通过异步请求的方式接收到事务请求,其根据事务当前处理阶段情况执行相关的操作,并将处理完成后所有的执行结果返回到主节点架构模块,以便继续的处理;主节点架构模块收到功能模块的执行结果后,检查当前的异步事务列表是否所有主机上的异步作业都已经完成,仅当事务请求的所有异步作业都已经完成后,执行处理阶段的切换,然后对当前处理阶段下的后续功能进行收尾处理,在完成了所有请求的处理,主节点架构模块通过阶段结束函数创建异步作业,此时如果事务已经处理到最后一阶段,阶段结束会直接返回,否则会创建新的异步作业并准备触发从节点的消息,开启下一阶段的处理流程;完成所有阶段的处理后,主节点架构模块提交当前请求的处理事务,并最终将请求的处理结果返回给前台应用,如果处理过程中发生技术性的错误,可以在子阶段子事务层面进行回滚重做,无需回滚整个事务。
5.如权利要求1或2所述的一种用于处理多阶段分布式任务调度的系统,其特征在于所述的系统还包括集群中节点失效后备机接管处理系统,在集群中 如果发生节点失效退出的情况,集群节点间的同步消息锁会在所有的节点上触发节点退出事件,集群上剩余节点都会响应该事件,如果是主节点失效,则新推举的主节点会根据失效主节点记录在共享磁盘上的工作页面日志文件进行重演,恢复到与失效主节点最后一个记录状态一致,然后继续接管任务处理;如果是从节点失效,则备机直接接管失效从节点的工作,由主节点重发未完成的事务给接管从节点处理,依此机制保证多阶段分布式复杂事务在主机失效的情况下仍可正确处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海证券交易所,未经上海证券交易所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310688919.X/1.html,转载请声明来源钻瓜专利网。