[发明专利]数据历史归档的方法和装置有效
申请号: | 201710243768.5 | 申请日: | 2017-04-14 |
公开(公告)号: | CN108733671B | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 郭玉杰 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/25 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 历史 归档 方法 装置 | ||
1.一种数据历史归档方法,其特征在于,包括如下步骤:
a)由配置文件提供需历史归档的数据的条件参数;
b)查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
c)对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果所述插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果所述删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施;
d)处理失败表,其中,将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
2.根据权利要求1所述的方法,其特征在于,所述数据源切换机制包括如下步骤:
配置生产库数据源和历史库数据源;
继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;
自定义拦截器工具类以便加注解标识。
3.根据权利要求2所述的方法,其特征在于,所述数据源切换机制用于数据插入历史库时,所述注解标识为history。
4.根据权利要求2所述的方法,其特征在于,所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
5.根据权利要求1所述的方法,其特征在于,当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
6.一种用于数据历史归档的装置,其特征在于,所述装置包括:配置文件模块、查询业务主表数据模块、遍历执行任务队列模块以及失败表处理模块,其中,
所述配置文件模块用于提供需历史归档的数据的条件参数;
所述查询业务主表数据模块用于查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
所述遍历执行任务队列模块用于对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果所述插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果所述删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施;
所述失败表处理模块用于:将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
7.根据权利要求6所述的装置,其特征在于,所述数据源切换机制包括如下步骤:
配置生产库数据源和历史库数据源;
继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;
自定义拦截器工具类以便加注解标识。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710243768.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种地图数据检查的方法及装置
- 下一篇:实现网络信息质量评估的方法和系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置