[发明专利]数据迁移方法、装置、计算设备及存储介质在审
申请号: | 202310450834.1 | 申请日: | 2023-04-24 |
公开(公告)号: | CN116501255A | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 刘易;何钧;乔立;梁松涛 | 申请(专利权)人: | 上海哔哩哔哩科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F11/30 |
代理公司: | 北京市浩天知识产权代理事务所(普通合伙) 11276 | 代理人: | 宋菲 |
地址: | 200433 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 迁移 方法 装置 计算 设备 存储 介质 | ||
本申请公开了一种数据迁移方法、装置、计算设备及存储介质,该方法包括:根据第一存储集群中的待迁移数据的存储位置信息,对待迁移数据进行分组,得到至少一个待迁移数据分组;将至少一个待迁移数据分组的元数据信息聚合到至少一个条带中;针对于任一条带,根据该条带包含的元数据信息确定一个或多个待迁移数据分组在第一存储集群的目标存储位置信息;根据目标存储位置信息,从第一存储集群中读取一个或多个待迁移数据分组对应的目标数据并存储到第二存储集群中。通过上述方式,提供了从第一存储集群迁移数据到第二存储集群的方法,能够支持异构存储环境到另一存储集群的数据迁移,避免异构存储系统之间的差异对数据迁移的影响。
技术领域
本申请涉及数据库技术领域,具体涉及一种数据迁移方法、装置、计算设备及存储介质。
背景技术
随着数据量的不断增加,传统的单一存储方案已经难以满足需求,通过异构存储集群存储业务数据是非常普遍的。目前,一些存储集群(例如纠删码存储集群)因其高效、高可靠性等优点,被越来越多的企业选择为最终存储方案,基于此,对异构存储集群的数据进行迁移则成为关键问题。然而,由于存储系统的异构性,不同存储系统之间存在协议差异、性能差异等问题,导致数据迁移变得非常困难,现有技术缺乏支持异构存储环境的数据迁移方法。
发明内容
本申请实施例的目的是提供一种数据迁移方法、装置、计算设备及存储介质,以解决现有技术缺乏支持异构存储环境的数据迁移方法的问题。
根据本申请的一个方面,提供了一种数据迁移方法,方法包括:
根据第一存储集群中的待迁移数据的存储位置信息,对待迁移数据进行分组,得到至少一个待迁移数据分组;
将至少一个待迁移数据分组的元数据信息聚合到至少一个条带中;其中,一个条带包含一个或多个待迁移数据分组的元数据信息;
针对于任一条带,根据该条带包含的元数据信息确定一个或多个待迁移数据分组在第一存储集群的目标存储位置信息;
根据目标存储位置信息,从第一存储集群中读取一个或多个待迁移数据分组对应的目标数据并存储到第二存储集群中。
可选地,将至少一个待迁移数据分组的元数据信息聚合到至少一个条带中进一步包括:
根据至少一个待迁移数据分组的分组信息和/或数据大小信息,将至少一个待迁移数据分组的元数据信息聚合到至少一个条带中。
可选地,从第一存储集群中读取一个或多个待迁移数据分组对应的目标数据进一步包括:
按照迁移限速从第一存储集群中读取目标数据;
其中,中间件监控第一存储集群的性能指标并根据性能指标动态调整迁移限速。
可选地,性能指标包括:网络带宽和/或系统负载。
可选地,在从第一存储集群中读取一个或多个待迁移数据分组对应的目标数据并存储到第二存储集群中之后,方法还包括:
校验第二存储集群中的目标数据与第一存储集群中与目标数据对应的待迁移数据是否一致;
若是,将目标数据在第二存储集群中的存储位置信息更新到第一存储集群中,以供第一存储集群在接收到针对目标数据对应的待迁移数据的读取请求之后,将读取请求转发至第二存储集群。
可选地,方法还包括:
在校验一致的情况下,第一存储集群将与目标数据对应的待迁移数据进行删除。
可选地,从第一存储集群中读取一个或多个待迁移数据分组对应的目标数据之后,方法进一步包括:
按照预设编码方式对目标数据进行编码,得到目标数据的待比对校验信息;将目标数据的待比对校验信息存储到第二存储集群中;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海哔哩哔哩科技有限公司,未经上海哔哩哔哩科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310450834.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:煤矿导水陷落柱综合勘察治理方法
- 下一篇:一种公路装配式波形钢箱拱型通道结构
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置