[发明专利]数据迁移方法、装置、计算机设备和存储介质有效
申请号: | 202110729567.2 | 申请日: | 2021-06-29 |
公开(公告)号: | CN113360479B | 公开(公告)日: | 2023-10-20 |
发明(设计)人: | 姜海涛 | 申请(专利权)人: | 深圳市天汇世纪科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/23;G06F16/2455;G06F16/27;G06F21/60 |
代理公司: | 北京同辉知识产权代理事务所(普通合伙) 11357 | 代理人: | 童杨益 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 迁移 方法 装置 计算机 设备 存储 介质 | ||
本发明涉及一种数据迁移方法方法、装置、计算机设备和存储介质,该方法包括:根据目标业务确定数据迁出端的目标数据;确定目标数据迁出数据迁出端的数据分布状态;基于决策树模型,根据数据分布状态确定目标数据的时间分片策略;按照时间分片策略对目标数据的迁出时间进行分片,获得多个时间分片;根据数据迁出端和数据迁入端确定数据迁移过程中的数据流向,根据数据流向依次将各个时间分片对应的目标数据迁移至数据迁入端。上述方法可以高效快速且完整无缺的将数据进行完成迁移。
技术领域
本发明涉及数据处理技术领域,特别是涉及数据迁移方法、装置、计算机设备和存储介质。
背景技术
在数据库表的应用过程中,随着记录的数据不断增多,一方面可能使得数据查询速度变慢,另一方面可能造成空间不足,无法存储新数据,所以需要对数据库表中的数据进行迁移。
现有的数据迁移方法有存储迁移和程序迁移,存储迁移是在存储过程中将要迁移的数据写成SQL(Structured Query Language,结构化查询语言)语句,由数据库直接执行以进行数据迁移;程序迁移是通过编写代码的形式组装SQL语句,最终由数据库执行以进行数据迁移。
然而,存储迁移和程序迁移过程中,数据迁移方式固定后,SQL语句便成为固定语句,这样,当需要新增数据迁移方式,或者对已知的迁移表进行更改时,都需要重新编写SQL语句,扩展性差,数据迁移效率低。
综上所述,如何提高数据迁移效率是目前本领域技术人员亟待解决的问题。
发明内容
本申请提供了一种数据迁移方法、装置、计算机设备和存储介质。
第一方面提供了一种数据迁移方法,所述方法包括:
根据目标业务确定数据迁出端的目标数据;
确定所述目标数据迁出所述数据迁出端的数据分布状态;
将各候选时间分片以及该获选时间分片中目标数据的数据密度输入决策树模型的根节点;在每个非根节点,将经过当前非根节点的母节点的条件计算后分类到当前非根节点的候选时间分片进行条件计算,从候选时间分片中筛选出满足预设条件的正式时间分片;
按照所述时间分片策略对所述目标数据的迁出时间进行分片,获得多个时间分片;
根据数据迁出端和数据迁入端确定数据迁移过程中的数据流向,根据所述数据流向依次将各个时间分片对应的目标数据迁移至数据迁入端。
在一些实施例中,所述确定所述目标数据迁出所述数据迁出端的数据分布状态,包括:
根据所述目标业务确定所述目标数据迁出所述数据迁出端的时间轴;
根据所时间轴确定对所述目标数据的迁出时间进行分片的多个候选时间粒度;
分别按照各候选时间粒度划分所述目标数据的迁出时间,得到多个候选时间分片;
统计各候选时间分片中目标数据的数据密度,得到所述数据分布状态。
在一些实施例中,所述决策树模型中的每个所述非根节点对应一个候选时间粒度的筛选条件,所述筛选条件为候选时间分片中目标数据的数据密度不大于预设阈值。
在一些实施例中,所述根据所述数据流向依次将各个时间分片对应的目标数据迁移至数据迁入端,包括:
对每个时间分片的目标数据基于定时器进行计时统计,在所述定时器计时期间检测到所述时间分片时,判断每个所述数据迁移任务在所述定时器到达预设计时时长时完成迁移的数据量是否等于相应的目标数据量。
当完成迁移的数据量等于相应的目标数据量时,停止执行相应的数据迁移任务;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市天汇世纪科技有限公司,未经深圳市天汇世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110729567.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:液力无级变速器
- 下一篇:斜边立体字的轮廓生成方法、装置、计算机设备和介质
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置