[发明专利]数据重构的方法、装置、计算机设备、存储介质及系统有效
申请号: | 201980008279.9 | 申请日: | 2019-07-22 |
公开(公告)号: | CN112543920B | 公开(公告)日: | 2023-02-10 |
发明(设计)人: | 张进毅;董如良;陈亮;薛强 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F11/10 | 分类号: | G06F11/10 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 颜晶 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 方法 装置 计算机 设备 存储 介质 系统 | ||
本发明公开了一种数据重构的方法、装置、计算机设备、存储介质及系统,属于数据存储技术领域。本方法直接根据获取的目标个数的存储设备的第一结果对第一条带中丢失的第一分块进行重构,从而无需从读取第一条带上未丢的分块,仅需要获取目标个数的第一结果,就可以对第一分块进行重构,由于第一结果与第一条带上未丢的分块相比数据量较少,在数据传输过程中,占用的网络带宽也比较少,从而提高了重构分块的性能。
技术领域
本申请涉及数据存储技术领域,特别涉及一种数据重构的方法、装置、计算机设备、存储介质及存储系统。
背景技术
为了提高存储系统的容错能力,一般采用纠删码(erasure coding,EC)以及分条技术,对待存储的数据进行数据存储,具体地,可以将待存储的数据划分为多个条带,若EC的冗余模式为N个数据块+M个校验块,则每个条带上包括N个数据块+M个校验块,其中,N和M为大于0的整数,1个数据块和一个校验块可以视为一个分块。每个条带所包括的N+M个分块可以存储在多个存储设备上,当任一个存储设备丢失存储的分块时丢失,为了保证丢失的分块不影响存储系统的正常业务,存储系统需要对丢失的分块进行程序。
分块重构可以是以下过程:对于丢失分块的条带,存储系统中的控制设备确定该条带中丢失的1个分块,并向存储设备发送N个读请求,每个读请求用于指示读取一个未丢失的分块,存储设备接收到每个请求后,向控制设备发送每个读请求指示的未丢失的分块,当控制设备获取到N个分块后,根据条带的校验矩阵以及获取的N个分块,获取丢失的分块,通过写请求将获取的丢失的分块发送给丢失分块的存储设备,该存储设备接收到该写请求后,将控制设备获取丢失的分块写入该存储节点内中,从而可以实现分块重构。
在上述分块重构过程中,控制设备和存储条带的存储设备之间需要传输N个读请求、N分块以及重构的分块,在传输过程中,会占用大量的网络带宽,从而降低了重构分块的性能。
发明内容
本发明实施例提供了一种数据重构的方法、装置、计算机设备、存储介质及系统,能够提高分块重构的性能。该技术方案如下:
第一方面,提供了一种数据重构的方法,该方法包括:确定第一条带中已丢失分块中的第一分块,所述第一条带中的分块由目标个数的存储设备存储;
获取所述目标个数的存储设备的第一结果,每个第一结果由所述目标个数的存储设备中的一个存储设备读取存储的所述第一条带的有效分块并且根据读取的有效分块计算得到;
根据所述目标个数的存储设备的第一结果,对所述第一分块进行重构。
基于上述实现方式,直接根据获取的目标个数的存储设备的第一结果对第一条带中丢失的第一分块进行重构,从而无需从读取第一条带上未丢的分块,仅需要获取目标个数的第一结果,就可以对第一分块进行重构,由于第一结果与第一条带上未丢的分块相比数据量较少,在数据传输过程中,占用的网络带宽也比较少,从而提高了重构分块的性能。
在一种可能实现方式中,所述获取所述目标个数的存储设备的第一结果之前,所述方法还包括:
将所述第一条带的校验矩阵拆分成第一子矩阵和所述目标个数的第二子矩阵,所述第一子矩阵包括所述第一分块所对应的列以及第二分块所对应的列,每个第二子矩阵包括所述第一条带中在一个存储设备上所存储的至少一个第三分块所对应的列,所述第二分块为所述第一条带的有效分块中的任一分块,所述第三分块为所述有效分块中除所述第二分块以外的任一分块;
所述根据所述目标个数的存储设备的第一结果,对所述第一分块进行重构包括:
根据所述目标个数的存储设备的第一结果以及所述第一子矩阵,对所述第一分块进行重构。
在一种可能实现方式中,所述根据所述目标个数的存储设备的第一结果以及所述第一子矩阵,对所述第一分块进行重构包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201980008279.9/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置