[发明专利]基于纠删码的数据恢复控制方法、装置、设备及介质有效
申请号: | 202110560113.7 | 申请日: | 2021-05-21 |
公开(公告)号: | CN113190384B | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 杜兴 | 申请(专利权)人: | 重庆紫光华山智安科技有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14 |
代理公司: | 上海光华专利事务所(普通合伙) 31219 | 代理人: | 李铁 |
地址: | 400700 重庆市*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 纠删码 数据 恢复 控制 方法 装置 设备 介质 | ||
1.一种基于纠删码的数据恢复控制方法,其特征在于,包括:
根据预设的纠删比存储数据,所述数据包括源数据和校验数据;
当磁盘上线时,加载所述源数据索引信息,待加载完成后,通过源数据加载标识表示源数据索引加载状态;然后,加载所述校验数据的索引信息,待加载完成后,通过校验数据加载标识表示校验数据索引加载状态;
根据所有的源数据加载标识和校验数据加载标识,控制数据上报;当检测到磁盘恢复数据时,根据所述源数据加载标识恢复所述磁盘内的源数据,待所述源数据恢复完后,再根据所述校验数据加载标识恢复所述磁盘内的校验数据。
2.根据权利要求1所述的基于纠删码的数据恢复控制方法,其特征在于,所述根据所有的源数据加载标识和校验数据加载标识,控制数据上报的步骤,包括:
根据所述源数据加载标识优先上报所述磁盘内的源数据,待所述源数据上报完后,再根据校验数据加载标识上报所述磁盘内的校验数据。
3.根据权利要求1所述的基于纠删码的数据恢复控制方法,其特征在于,所述根据预设的纠删比存储数据的步骤,包括:
根据存储对象在相应的磁盘上按照纠删比创建k+m个块文件,k、m均为整数;
根据块文件类型创建对应的源数据块文件或校验数据块文件;
将待写入的数据存储到缓存中,当所述缓存中源数据大小满足预设大小时,通过对所述源数据进行条带化处理,按序将原数据分割成多个条带单元,利用纠删方法计算相应的校验条带单元;
根据块文件名分别将源数据、校验数据按照顺序对应写入相应的条带单元,所述块文件名包含文件名、对象ID与块ID。
4.根据权利要求3所述的基于纠删码的数据恢复控制方法,其特征在于,所述根据块文件类型创建对应的源数据块文件或校验数据块文件的步骤,包括:
在所述磁盘的私有文件系统中创建块文件;
如果块文件类型是源数据,从所述磁盘的源数据位图表中寻找空闲块节点,根据空闲块节点和超级块信息计算磁盘上索引与数据块位置,利用所述磁盘上索引与数据块位置创建源数据块文件;
如果块文件类型是校验数据,从所述磁盘的校验数据位图表中寻找空闲块节点,根据空闲块节点和超级块信息计算磁盘上索引与数据块位置,利用所述磁盘上索引与数据块位置创建校验数据块文件。
5.根据权利要求1所述的基于纠删码的数据恢复控制方法,其特征在于,所述当检测到磁盘恢复数据时,根据所述源数据加载标识恢复所述磁盘内的源数据,待所述源数据恢复完后,再根据所述校验数据加载标识恢复所述磁盘内的校验数据的步骤,包括:
当监测到磁盘下线时,触发数据节点中的恢复扫描线程与恢复线程;
利用恢复扫描线程查询数据库中掉线磁盘的所有块文件,根据所述块文件的类型将其加入不同恢复链表;
优先恢复源数据块文件恢复链表中待恢复的块文件,直到所有源数据块文件恢复完后,再恢复校验数据块文件恢复链表中待恢复的块文件。
6.根据权利要求5所述的基于纠删码的数据恢复控制方法,其特征在于,所述根据所述块文件的类型将其加入不同恢复链表的步骤,包括:
判断所述块文件的类型;如果所述块文件是源数据块文件,则加入源数据块文件恢复链表;如果所述块文件是校验数据块文件,则加入校验数据块文件恢复链表。
7.根据权利要求1所述的基于纠删码的数据恢复控制方法,其特征在于,还包括:
当监测到磁盘上线时,加载磁盘上私有文件系统,将磁盘空间结构中的超级块和各个块组中索引区记录的目标或文件数据读取加载至内存中的文件节点管理结构中;
根据加载的所述超级块确定源数据区域与校验数据区域,待依次加载完源数据区域和校验数据区域后置位其对应的标识;
根据所述标识的置位信息扫描源数据与校验数据,将其加入相应的源数据上报队列和校验数据上报队列;
当检测到线程池内有数据上报时,优先处理源数据上报队列,直到源数据上报队列处理完后,再处理校验数据上报队列;
根据上报流量控制上报线程的数量和上报速度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆紫光华山智安科技有限公司,未经重庆紫光华山智安科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110560113.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置