[发明专利]分布式存储方法和传输译码方法有效
申请号: | 202010161945.7 | 申请日: | 2020-03-10 |
公开(公告)号: | CN111447044B | 公开(公告)日: | 2022-12-09 |
发明(设计)人: | 付希明;郭沅鑫;杨升浩 | 申请(专利权)人: | 深圳市大数据研究院 |
主分类号: | H04L67/1097 | 分类号: | H04L67/1097;H04L1/00;G06F3/06 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 洪铭福 |
地址: | 518172 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 存储 方法 传输 译码 | ||
本发明公开了分布式存储方法和传输译码方法。涉及分布式存储领域,其中,分布式存储方法通过对原始数据进行分块得到第一预设数量的数据块,然后根据生成矩阵对数据块进行编码,生成第二预设数量的数据包,对数据包利用截取方案进行数据截取得到截取数据包,存储截取数据包到对应的分布式节点中。根据本发明实施例的生成矩阵进行编码能够保证较高的编码效率,同时通过截取方案对数据包截取,存储时能够减少节点的存储冗余,从而保证整个分布式系统的存储冗余降低,节约了存储空间,提高了存储效率。
技术领域
本发明涉及分布式存储领域,尤其是涉及一种分布式存储方法和传输译码方法。
背景技术
在分布式存储系统中,MDS(最大距离可分)码是一种有效的存储编码方案,主要解决数据恢复问题。在一个分布式系统中,网络中有n个节点,数据分割为k个块,编码得到n个数据包分别保存在n个节点上,如果数据可以通过任意k个节点恢复,则该编码为(n,k)MDS码,相比较传统的备份机制,MDS码的编解码效率大大提高,但是MDS编解码复杂度较高。2013年,Sung等人提出了基于XOR操作(即异或操作)的MDS编解码方案,该方案适用于任意规模的网络,其采用ZigZag译码,编解码复杂度大大降低,但是这种方案的传输带宽冗余较多。2014年,Fu等人提出了基于XOR操作的无冗余传输和解码方案,将带宽传输冗余降为零,消除了译码空间冗余,但是其编码存储冗余仍然较高。高冗余会增加传输成本,并且随着网络节点数量增加,其存储冗余会随之增加。
因此需要提出一种能够减少每个节点存储冗余,同时具有高效的编解码效率和较小译码空间开销的分布式存储方法和传输译码方法。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此,本发明提出一种分布式存储方法,能够减少每个节点存储冗余,同时具有高效的编解码效率。
第一方面,本发明的一个实施例提供了:一种分布式存储方法,包括:
对原始数据进行分块得到第一预设数量的数据块;
根据生成矩阵对所述数据块进行编码,生成第二预设数量的数据包;
对所述数据包利用截取方案进行数据截取得到截取数据包;
存储所述截取数据包到对应的分布式节点中。
进一步地,所述对原始数据进行分块得到第一预设数量的数据块具体包括:所述数据块的数据长度相同。
进一步地,所述生成矩阵表示为:
所述数据包表示为:
其中,ti,j为非负整数,k表示第一预设数量,n表示第二预设数量,xj表示数据块,yi表示数据包,表示将xj右移ti,j个单位,前面补ti,j个零。
进一步地,所述截取方案表示为:
若满足条件:n≥2k+1,则有:
若满足条件:n<2k+1,则有:
其中,L表示所述数据块的数据长度,表示所述截取数据包。
本发明实施例至少具有如下有益效果:存储时能够减少节点的存储冗余。
第二方面,本发明的一个实施例提供了:一种分布式传输译码方法,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市大数据研究院,未经深圳市大数据研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010161945.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:抗冻节能加气混凝土砌块的制备方法
- 下一篇:一种陶瓷砖生产线上的自动装载车