[发明专利]数据迁移方法、设备、存储介质及程序产品在审

专利信息
申请号: 202110668073.8 申请日: 2021-06-16
公开(公告)号: CN113297182A 公开(公告)日: 2021-08-24
发明(设计)人: 陈林 申请(专利权)人: 中国农业银行股份有限公司
主分类号: G06F16/21 分类号: G06F16/21
代理公司: 北京同立钧成知识产权代理有限公司 11205 代理人: 王征;黄健
地址: 100005 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 迁移 方法 设备 存储 介质 程序 产品
【说明书】:

本申请提供一种数据迁移方法、设备、存储介质及程序产品,通过通过将原数据库中待导出的原数据库表的数据导出,得到第一文件;根据数据库表的容量信息和/或系统性能信息确定迁移策略,并根据迁移策略将第一文件中的数据导入到目标数据库中,形成目标数据库表;将目标数据库的目标数据库表的数据导出,得到第二文件;将第二文件与第一文件进行内容对比,若第二文件与第一文件内容一致,则确定数据迁移成功。通过上述过程能够一键式完成海量数据迁移、检查与核对。不仅能够根据数据库表容量和/或系统性能选择最优导出、导入策略,实现数据高效、准确地导出、导入,减少人工参与,此外还基于文件对比实现数据全量比对,保证海量数据迁移的准确性。

技术领域

本申请涉及数据库技术领域,尤其涉及一种数据迁移方法、设备、存储介质及程序产品。

背景技术

在商业银行信息系统建设中,早期使用的Syabse数据库,无法满足日益增长的高并发、异地灾备等需求,需要迁移至性能更佳的Oracle数据库。而异构数据库、海量数据、字符集差异,均影响数据迁移效率与准确性。

现有技术中,数据迁移通常通过命令行或数据库操作图形界面,采用固定的迁移策略,逐个数据库表进行导出、导入;对于导出、导入过程中的异常数据,往往进行舍弃或手工导入。此外,在数据导入、导出过程中,需要检查与核对,通常采用抽样检查,以某种特定的抽样方式,在原数据库表中抽查出部分数据,根据抽查数据的主键或字段,在新数据库中查询,对比查询结果。

现有的数据迁移方式速度慢、效率低,无法充分利用服务器的I/O、CPU和网络资源,尤其是在海量数据迁移时,数据迁移时间可能长达十多个小时。且数据迁移过程需要较多的人工参与,例如一些参数选择往往是由执行人根据经验主观选择,导致迁移效率下降,并且容易导致命令错误;此外在检查和核对时采用抽样检查存在漏检、漏报的可能,且对于异常数据处理,如无法直接舍弃,则需要人工分析、手工再次执行命令,费时费力且易引起二次错误。

发明内容

本申请提供一种数据迁移方法、设备、存储介质及程序产品,用以自动化实现海量数据迁移、检查和核对,提高效率和准确率。

第一方面,本申请提供一种数据迁移方法,包括:

将原数据库中待导出的原数据库表的数据导出,得到第一文件;

根据所述原数据库表的容量信息和/或系统性能信息确定迁移策略,并根据所述迁移策略将所述第一文件中的数据导入到目标数据库中,形成目标数据库表;

将所述目标数据库的目标数据库表的数据导出,得到第二文件;

将所述第二文件与所述第一文件进行内容对比,若所述第二文件与所述第一文件内容一致,则确定数据迁移成功。

可选的,所述根据所述原数据库表的容量信息和/或系统性能信息确定迁移策略,并根据所述迁移策略将所述第一文件中的数据导入到目标数据库中,包括:

若所述原数据库表的容量不超过预设容量阈值,则确定直接加载参数,并基于所述直接加载参数将所述第一文件中的数据导入到所述目标数据库中;或者

若所述原数据库表的容量超过预设容量阈值,则确定并行加载参数以及并行数,并基于并行数对所述第一文件进行拆分,并基于所述并行加载参数将拆分文件中的数据并行导入到所述目标数据库中。

可选的,所述确定并行加载参数以及并行数,包括:

根据所述原数据库表的容量以及系统性能信息,确定并行加载参数以及并行数,所述系统性能信息包括以下至少一项:CPU性能、I/O性能、网络性能。

可选的,所述方法还包括:

若所述第二文件与所述第一文件内容不一致,则确定不一致的异常数据;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国农业银行股份有限公司,未经中国农业银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110668073.8/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top