[发明专利]一种数据恢复方法及分布式数据恢复系统有效
申请号: | 202010546266.1 | 申请日: | 2020-06-16 |
公开(公告)号: | CN111444046B | 公开(公告)日: | 2021-01-22 |
发明(设计)人: | 甘红星 | 申请(专利权)人: | 北京金山云科技有限公司;北京金山云网络技术有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14;G06F11/10 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 丁芸;马敬 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 恢复 方法 分布式 系统 | ||
本发明实施例提供了一种数据恢复方法及分布式数据恢复系统,包括:管理节点检测到有数据存储节点存在数据对象丢失时,从多个数据存储节点中确定目的节点,生成数据恢复指令,将数据恢复指令发送至目的节点;目的节点根据接收到的数据恢复指令中的源数据节点信息,确定用于恢复待恢复丢失数据对象中各条待恢复数据的数据恢复索引,基于数据恢复索引向源数据节点发送数据恢复请求,并根据源数据节点返回的源数据对象数据,对至少两条待恢复数据进行恢复,直至待恢复丢失数据对象中的各条待恢复数据均恢复完成。本发明实施例,能够减少数据恢复的时间,提高数据的安全性。
技术领域
本发明涉及数据处理技术领域,特别是涉及一种数据恢复方法及分布式数据恢复系统。
背景技术
随着大数据时代的到来,数据的使用量成倍增长,使得对数据的存储和恢复有着越来越高的要求。对象存储,也叫做基于对象的存储,是一种非结构化数据的存储方式。分布式存储将不同存储节点如服务器上的空闲磁盘通过网络连接在一起,并对外提供统一的存储接口。分布式对象存储系统可以在一个持久稳固且高度可用的系统中存储任意的对象,用户和应用等可以在对象存储中使用简单的API(Application ProgrammingInterface,应用程序接口)访问数据对象,例如,该数据对象可以为一个数据块等。
分布式对象存储系统中最常见的两种数据冗余技术是多副本策略和纠删码技术,相比于多副本策略,纠删码技术具有更高的磁盘利用率。纠删码技术主要是通过纠删码算法将原始的数据块进行编码得到校验块,并将数据块和校验块一并存储起来,以达到数据容错的目的。
现有使用纠删码技术对分布式对象存储系统中丢失的数据进行恢复的方法为:当管理节点检测到存在数据块丢失时,随机选择一个数据存储节点作为数据恢复节点,并向该数据恢复节点发送数据恢复指令;数据恢复节点接收到数据恢复指令后,向数据恢复指令中携带的数据源节点标识对应的数据源节点发送数据获取请求,进而接收数据源节点返回的数据,对接收的数据使用EC(Erasure Code,纠删码)技术进行编解码处理,以恢复丢失的数据块。
实际应用中,丢失的数据块中可能包含成千上万条数据,使用现有的数据恢复方法,在数据恢复节点向数据源节点发送数据获取请求时,是基于数据源节点中存储的数据块对应的索引信息,逐条向数据源节点发送数据获取请求的,其中,索引信息表示了数据源节点中数据存储的组织方式,每一个数据获取请求用于请求一条数据,数据恢复节点在接收数据源节点返回的一条数据后,恢复一条丢失数据,再向数据源节点发送下一条数据获取请求,至所有丢失数据都得到恢复,进而得到整个丢失数据块的恢复数据。在此过程中,因需要逐条向数据源节点发送数据获取请求,对丢失数据块中的数据进行逐条恢复,即对一条数据恢复之后再请求恢复下一条数据,使得数据恢复的时间较长,导致丢失的数据块长时间处于缺失的状态,影响数据的安全性。
发明内容
本发明实施例的目的在于提供一种数据恢复方法及分布式数据恢复系统,能够减少数据恢复的时间,提高数据的安全性。具体技术方案如下:
第一方面,本发明实施例提供了一种数据恢复方法,应用于分布式对象存储系统中的管理节点,所述分布式对象存储系统包括:管理节点和多个数据存储节点,所述方法包括:
当检测到有所述数据存储节点存在数据对象丢失时,从所述多个数据存储节点中确定目的节点;
生成数据恢复指令,所述数据恢复指令中包含:待恢复丢失数据对象所属的源数据节点信息,所述待恢复丢失数据对象包含至少两条待恢复数据,所述源数据节点为多个所述数据存储节点中的至少一个;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云科技有限公司;北京金山云网络技术有限公司,未经北京金山云科技有限公司;北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010546266.1/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置