[发明专利]数据处理系统、方法以及装置在审
申请号: | 202010732298.0 | 申请日: | 2020-07-27 |
公开(公告)号: | CN113297166A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 熊嘉男 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/25 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 李晓庆 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理系统 方法 以及 装置 | ||
1.一种数据处理系统,包括:
源数据库集群、迁移服务子系统;
所述迁移服务子系统,被配置为接收针对所述源数据库集群的数据迁移任务,并向所述源数据库集群发送目标数据分区的待迁移数据的记录请求;
所述源数据库集群,被配置为基于所述记录请求创建待迁移数据的初始文件信息列表,监听所述目标数据分区下的文件生成信息,基于所述目标数据分区的分区标识以及所述文件生成信息对所述初始文件信息列表进行更新获得文件信息列表;
所述迁移服务子系统,还被配置为访问所述文件信息列表,确定与本次访问对应的待迁移数据的文件信息,根据所述文件信息中的文件标识与目标数据分区的映射关系,从所述源数据库集群的所述目标数据分区读取所述文件标识对应的目标文件,并将所述目标文件迁移至目标数据库。
2.根据权利要求1所述的数据处理系统,所述迁移服务子系统,包括:
迁移服务主节点;
所述迁移服务主节点,被配置为接收针对所述源数据库集群的数据迁移任务,并向所述源数据库集群发送目标数据分区的待迁移数据的记录请求。
3.根据权利要求2所述的数据处理系统,所述迁移服务子系统,还包括:迁移服务工作节点;
所述迁移服务主节点,还被配置为访问所述文件信息列表,确定与本次访问对应的待迁移数据的文件信息,基于所述文件信息中的文件标识与目标数据分区的映射关系,生成文件迁移任务并下发至所述迁移服务工作节点;
所述迁移服务工作节点,被配置为接收所述文件迁移任务,根据所述映射关系,从所述源数据库集群的所述目标数据分区读取所述文件标识对应的目标文件,并将所述目标文件迁移至目标数据库。
4.根据权利要求2所述的数据处理系统,所述迁移服务子系统,还包括:迁移服务工作节点;
所述源数据库集群,还被配置为向所述迁移服务主节点返回文件信息的记录结果;
所述迁移服务主节点,被配置为接收所述记录结果,根据所述记录结果确定待迁移数据的文件信息,基于所述文件信息中的文件标识与目标数据分区的映射关系,生成文件迁移任务并下发至所述迁移服务工作节点;
所述迁移服务工作节点,被配置为接收所述文件迁移任务,根据所述映射关系,从所述源数据库集群的所述目标数据分区读取所述文件标识对应的目标文件,并将所述目标文件迁移至目标数据库。
5.根据权利要求3所述的数据处理系统,所述迁移服务工作节点,还被配置为向所述迁移服务主节点发送所述目标文件的迁移结果;
所述迁移服务主节点,被配置为接收所述迁移结果,若所述迁移结果为迁移成功,则向所述源数据库集群发送所述目标文件迁移成功的提示信息;
所述源数据库集群,被配置为接收所述提示信息,对所述目标文件进行合并或删除处理。
6.根据权利要求5所述的数据处理系统,所述迁移服务主节点,还被配置为若所述迁移结果为迁移失败,则获取所述源数据库集群的分区列表,确定所述文件标识与所述分区列表中分区标识间的对应关系,基于所述对应关系生成文件迁移任务,并将所述文件迁移任务下发至迁移服务工作节点。
7.根据权利要求1所述的数据处理系统,所述迁移服务主节点,还被配置为:确定目标时间戳,检测所述目标时间戳对应的时间区间内迁移结果为迁移失败的目标文件,基于迁移失败的目标文件创建文件迁移任务,并将所述文件迁移任务下发至迁移服务工作节点。
8.根据权利要求3所述的数据处理系统,所述迁移服务工作节点,还被配置为:
检测所述目标数据库中迁移结果为迁移成功的目标文件的文件数量或文件大小,在检测到所述文件数量大于第一预设阈值,或所述文件大小大于第二预设阈值的情况下,将所述迁移成功的目标文件导入至所述目标数据库的数据表。
9.根据权利要求8所述的数据处理系统,所述迁移服务工作节点,还被配置为:
检测所述目标数据库中各数据分区的文件数量,若文件数量大于预设数量阈值,则对所述数据分区的文件进行合并处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010732298.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据验证方法及装置
- 下一篇:分布式系统的监控方法及装置