[发明专利]一种云存储下基于纠错码的数据恢复方法有效

专利信息
申请号: 201410250861.5 申请日: 2014-06-07
公开(公告)号: CN104052576B 公开(公告)日: 2017-05-10
发明(设计)人: 曹强;万胜刚;李诗逸;李晓倩;宋驰;谢长生 申请(专利权)人: 华中科技大学
主分类号: H04L1/00 分类号: H04L1/00;H04L29/08;H04L12/24
代理公司: 华中科技大学专利中心42201 代理人: 廖盈春
地址: 430074 湖北*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 存储 基于 纠错码 数据 恢复 方法
【说明书】:

技术领域

发明属于云存储技术领域,更具体地,涉及一种云存储下基于纠错码的数据恢复方法。

背景技术

云存储,指通过集群应用、网格技术或分布式文件系统等功能,将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和访问功能的系统。在大量存储设备协同工作的云存储系统中,存储设备出现故障而可能导致的数据异常是在设计云存储系统时需要考虑的关键部分。

目前的云存储系统主要通过远程备份功能提供容错服务,例如Hadoop。在云存储系统中,数据被分成多个固定大小的数据块,按照一定的分布方式,分开存储在多个远程节点上,同时,能够在其他远程节点存储数据块的备份。这种方式能够一定程度的避免数据的损坏,但是其存储开销太大,且增量写延迟较高。

目前针对云存储远程备份功能的缺陷,出现了NCCloud,其将数据分块存储在远程节点上,同时存储数据的校验块。并在云存储体系中引入代理节点,当远程节点出现故障时,代理节点通过获取其他节点的数据(数据块及校验块),恢复出现故障的远程节点及其中存储的数据。但是,NCCloud的代理节点需要从远程节点获取故障恢复相关的所有数据,进行大量的数据传输,对网络带宽的要求较高。

发明内容

针对现有技术的以上缺陷或改进需求,本发明提供一种云存储下基于纠错码的数据恢复方法,该方法能够在远程节点发生永久性故障时,进行数据修复。

本发明是一种采用最大距离可分(Maximum-Distance-Separable,以下简称MDS)纠错编码,利用HPC算法的数据恢复方法。将数据分块存储在各远程存储节点上,同时存储数据块的副本和数据的校验块。当远程存储节点发生永久性故障而导致其内存储的数控失效时,修复操作可以读取现有的幸存云数据并恢复丢失的数据。

本发明提供一种云存储下基于纠错码的数据恢复方法,包括以下步骤:

步骤1将存储的数据分成固定大小的m个数据块b0~bm-1,同时复制所有的数据块生成m个复制块b'0~b'm-1,其中m<N,N为云存储系统中的存储节点总数;

步骤2选取m个存储节点存储所述m个数据块b0~bm-1和所述m个复制块b'0~b'm-1,其中每一存储节点分别存储一个数据块和一个复制块,即第i个存储节点存储数据块bi和数据块bi+1的复制块bi'+1,0≤i<m-1,第m个存储节点存储数据块bm-1和数据块b0的复制块b'0

步骤3另随机选取不同于所述m个存储节点的k-1个存储节点分别存储使用标准RS编码所形成的k-1个奇偶校验块,其中k表示所述云存储系统中的容错节点数,k<m;

步骤4根据故障节点所存储的数据内容确定数据恢复所需要用到的数据块或复制块或奇偶校验块,并由所述所需要用到的数据块或复制块或奇偶校验块所在的存储节点进行数据恢复计算;

步骤5将所述数据恢复计算的结果传输到替换所述故障节点的替换节点上;

步骤6所述替换节点计算并重组所述数据块或所述复制块或所述奇偶校验块以实现数据恢复。

总体而言,通过本发明所构思的以上技术方案与现有技术相比,具有以下优点:

节约带宽,不需要通过大量的数据块数据传输进行数据块的恢复,通过使用RS校验码及利用存储节点自身的计算性能,先在存储节点对数据恢复所需的数据进行相应计算,对计算后的数据内容传输至替换节点,再在替换节点进行数据计算和重组以实现数据块的恢复,减少了数据传输量,减轻了数据恢复节点的计算负担;

节省空间,MDS编码仅存储1个复制块以及少量校验块,既保证了数据恢复的功能,又节省了分布式云存储系统的存储空间。

附图说明

图1为本发明采用HPC(m,k,ck)数据恢复算法的云存储环境的数据布局结构图;

图2为本发明一种典型的HPC数据恢复算法模型HPC(4,2,c2)的示意图;

图3为本发明采用a行n列规范化的数据布局结构图;

图4a为本发明损坏数据块中不存在奇偶校验块的数据恢复方法的流程图;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201410250861.5/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top