[发明专利]跨节点的数据组管理方法、装置及介质在审

专利信息
申请号: 201911029694.0 申请日: 2019-10-28
公开(公告)号: CN112732164A 公开(公告)日: 2021-04-30
发明(设计)人: 李树龙;张炎泼 申请(专利权)人: 北京白山耘科技有限公司
主分类号: G06F3/06 分类号: G06F3/06;H04L29/08
代理公司: 北京名华博信知识产权代理有限公司 11453 代理人: 苗源
地址: 100015 北京市朝阳区酒仙*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 节点 数据 管理 方法 装置 介质
【说明书】:

本文是关于一种跨节点的数据组管理方法、装置及介质。跨节点的数据组管理方法包括将i组EC组数据按预设算法生成j组结果数据;将所述i组EC组数据和j组结果数据存储在i+j个节点中,其中,i为≥2的整数,j为≥1的整数。即使多个节点瘫痪,依然能够快速将原始数据恢复出来。

技术领域

本文涉及分布式存储,尤其涉及跨节点的数据组管理方法、装置及介质。

背景技术

EC,即Erasure Code,是一种通过冗余数据来提高实际数据可靠性的方法。通过实际数据和选定的EC算法,即刻创建包含冗余数据和实际数据的EC组。在系统中同时存储冗余数据和实际数据。当出现数据丢失,损坏的情况下,通过现存的实际数据和冗余数据来恢复丢失和损坏的数据。提高数据安全性的同时,降低存储成本。

相关技术中,对EC组数据的管理方式分为单节点存储和多节点分散存储,单节点存储将EC组数据存储在单个节点中,多节点分散存储将EC组数据分散存储到多个节点中。

单节点存储的方式,当存储EC组数据的节点瘫痪或者因为网络原因与系统其它部分失联,极易导致数据不可访问,系统可用性降低。这种存储方式要求节点极其稳定,并且在可接受的时间内即可恢复工作。而多节点分散存储的方式,数据的创建,更新,恢复都要通过跨节点的方式,读取或者发送数据,导致效率低,失败率高。

发明内容

为克服相关技术中存在的问题,本文提供一种跨节点的数据组管理方法、装置及介质。

根据本文的第一方面,提供一种跨节点的数据组管理方法,包括:

将i组EC组数据按预设算法生成j组结果数据;

将所述i组EC组数据和j组结果数据存储在i+j个节点中,其中,i为≥2的整数,j为≥1的整数。

所述EC组数据包括m个实际数据块和n个冗余数据块;所述将i组EC组数据按预设算法生成j组结果数据包括:

对所述i组EC组数据中每组EC组数据中的m个实际数据块和n个冗余数据块按相同顺序编号,对每一编号对应的i个数据块按预设算法得到j个结果数据块,将m+n个编号对应的m+n个结果数据块作为一组结果数据,得到j组结果数据。

同一EC组数据存储在一个节点中,同一组结果数据存储在一个节点中。

所述同一EC组数据存储在一个节点中包括:将所述同一EC组的m个实际数据块和n个冗余数据块分别存储在m+n个存储服务器中;

所述同一组结果数据存储在一个节点中包括:将所述同一组结果数据的m+n个结果数据块存储在m+n个存储服务器中。

j=1,所述预设算法为:异或运算。

当所述EC组数据部分损毁,通过所处节点中m+n个存储服务器内现存的实际数据块和冗余数据块恢复所述损毁数据;

当所述损毁数据无法通过所处节点中的m+n个存储服务器内的实际数据块和冗余数据块恢复或所处节点故障时,通过其他节点中的其他EC组中的数据块和j个节点中的结果数据块恢复所述损毁数据。

根据本文的另一方面,提供一种跨节点的数据组管理装置,包括:

结果数据生成模块,用于将i组EC组数据按预设算法生成j组结果数据;

分布存储模块,用于将所述i组EC组数据和j组结果数据存储在i+j个节点中,其中,i为≥2的整数,j为≥1的整数。

所述EC组数据包括m个实际数据块和n个冗余数据块;所述分布存储模块生成j组结果数据包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京白山耘科技有限公司,未经北京白山耘科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911029694.0/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top