[发明专利]一种基于队列的银行流计算业务系统中检查点快速持久化方法在审
申请号: | 202210588511.4 | 申请日: | 2022-05-26 |
公开(公告)号: | CN114896200A | 公开(公告)日: | 2022-08-12 |
发明(设计)人: | 陈伟;鲁萍;杨运平;王刚;唐迪佳 | 申请(专利权)人: | 浙江邦盛科技股份有限公司 |
主分类号: | G06F16/11 | 分类号: | G06F16/11;G06F16/182;G06Q10/10;G06Q40/02 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 刘静 |
地址: | 310012 浙江省杭州市西湖*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 队列 银行 计算 业务 系统 检查点 快速 持久 方法 | ||
1.一种基于队列的银行流计算业务系统中检查点快速持久化方法,其特征在于,该方法包括如下步骤:
(1)在银行流计算业务系统的操作量增加之前,人为向业务系统中需要进行流计算状态迁移的节点发出快照开始的指令,记录当前进行流计算节点的状态;
(2)需要进行流计算状态迁移的节点在接收到快照的信号后,触发检查点机制:银行流计算业务系统的Kafka中对应Topic的数据、信息、消息传输均停止,业务系统中进行流计算的节点开始进行自身计算状态的快照操作,记录下Kafka中对应Topic的偏移量值以及节点当前计算状态;
(3)基于Kafka消息队列先进先出的规则,将执行快照操作后的银行流计算业务系统中节点的流计算状态相关数据记录,按Kafka消息队列中的顺序依次存入HDFS文件系统中进行持久化保存;存储结束后,获取HDFS文件系统中的流计算状态相关数据的地址,将该地址与Kafka中当前Topic的偏移量值作为数据对存入Oracle数据库中,业务系统中的当前执行快照操作后的节点使用指针指向Oracle数据库中的数据对;
(4)对指针做切换操作:流计算状态迁移的目标节点使用指针指向Oracle数据库中的数据对,利用记录的Topic偏移量值重新开始消费Kafka中对应的Topic,读取HDFS文件系统中的流计算状态相关数据,对业务系统中原节点的流计算状态进行恢复,并取消原节点指向Oracle数据库中该条数据对的指针。
2.根据权利要求1所述的一种基于队列的银行流计算业务系统中检查点快速持久化方法,其特征在于,流计算状态迁移的节点开始进行自身计算状态的快照操作具体为:记录下上一次快照至此时与节点相关的数据处理的中间计算记录以及此次快照当前Topic的偏移量值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江邦盛科技股份有限公司,未经浙江邦盛科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210588511.4/1.html,转载请声明来源钻瓜专利网。