[发明专利]一种数据迁移方法和装置有效
申请号: | 201711103502.7 | 申请日: | 2017-11-10 |
公开(公告)号: | CN110019123B | 公开(公告)日: | 2021-10-15 |
发明(设计)人: | 马文军 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/215 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;陆锦华 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 迁移 方法 装置 | ||
1.一种数据迁移方法,其特征在于,包括:
设置每个业务的数据迁移状态信息,所述数据迁移状态信息包括总数据迁移状态信息和分别与存储相应业务的数据的各存储表相对应的子数据迁移状态信息;
步骤一,通过与每个业务对应的数据调度任务,将相应业务的数据从原数据库发送到消息服务器集群;其中,通过按照预设的任务分配规则分配的与每个业务对应的数据调度任务,将每个业务的存于原数据库各存储表中的数据发送到与相应存储表对应的消息服务器集群;所述存储表的数量与所述消息服务器集群的数量相同;
步骤二,通过所述消息服务器集群将各业务的数据迁移到对应的数据库分库,其中,通过与各存储表对应的消息服务器集群,将各业务的存于各存储表中的数据迁移到与所述各业务对应的数据库分库;对于每个业务,当该业务在一存储表中的数据被迁移完毕后,更新该业务的与该存储表相对应的子数据迁移状态信息,以及,当该业务在各存储表中的数据全部被迁移完毕后,更新该业务的总数据迁移状态信息。
2.根据权利要求1所述的方法,其特征在于,所述步骤二之后,包括:
通过按照预设的任务分配规则分配的与每个业务对应的数据校验任务,对每个业务的从各存储表迁移到数据库分库中的数据执行数据校验,其中:
如果一业务的从各存储表迁移到数据库分库中的数据与所述各存储表中的数据比对一致,则所述数据校验通过,否则所述数据校验未通过。
3.根据权利要求2所述的方法,其特征在于,所述步骤一之前,包括:设置每个业务的数据校验状态信息;
通过按照预设的任务分配规则分配的与每个业务对应的数据校验任务,对每个业务的从各存储表迁移到数据库分库中的数据执行数据校验的步骤之后,包括:
如果所述数据校验通过,则更新对应业务的数据校验状态信息;
如果所述数据校验未通过,则更新对应业务的数据比对不一致的一个或多个存储表对应的子数据迁移状态信息,以便返回所述步骤一重新迁移该一个或多个存储表中所述对应业务的数据。
4.根据权利要求3所述的方法,其特征在于,所述更新对应业务的数据校验状态信息的步骤之后,包括:
清理所述对应业务存于原数据库各存储表中的数据。
5.根据权利要求4所述的方法,其特征在于,所述步骤一之前,包括:设置每个业务的数据清理状态信息;
清理所述对应业务存于原数据库各存储表中的数据的步骤,包括:
通过按照所述预设的任务分配规则分配的与每个业务对应的数据清理任务,清理存于原数据库各存储表中的各业务的数据,并在每个业务的数据清理完毕之后,更新相应业务的数据清理状态信息。
6.根据权利要求1、2、3或5中任一项所述的方法,其特征在于,所述预设的任务分配规则包括:
根据每个业务的业务ID对待分配类型的任务的总数量取模,得到与所述每个业务对应的该待分配类型的任务的序号;
根据该待分配类型的任务的序号分配与所述每个业务对应的该待分配类型的任务,其中,该待分配类型的任务包括数据调度任务、数据校验任务、数据清理任务三种类型任务的其中之一。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711103502.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置