[发明专利]基于网络存储设备集群的数据处理方法及装置有效
申请号: | 201910386652.6 | 申请日: | 2019-05-09 |
公开(公告)号: | CN110209670B | 公开(公告)日: | 2022-03-25 |
发明(设计)人: | 秦江波 | 申请(专利权)人: | 北京猫盘技术有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06F16/27;G06F11/14;H03M13/11 |
代理公司: | 北京知果之信知识产权代理有限公司 11541 | 代理人: | 唐海力 |
地址: | 100094 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 网络 存储 设备 集群 数据处理 方法 装置 | ||
1.一种基于网络存储设备集群的数据处理方法,其特征在于,包括:
当网络存储设备N发起与网络存储设备M的点对点连接,拟从网络存储设备M中读取数据或向网络存储设备M写入数据时,判断所述网络存储设备M是否有效,其中,N和M为整数,表示网络存储设备的ID;
如果网络存储设备M失效,则尝试采用未失效的所述网络存储设备在网络存储设备N读取数据时恢复数据,读取数据的网络存储设备节点根据短LDPC码的tanner图解码恢复数据,并且在所述数据的恢复过程中使所述失效的网络存储设备节点数不超过预设纠错码的容错能力;
如果网络存储设备M失效,则尝试采用未失效的所述网络存储设备在网络存储设备N读取数据时恢复数据时还包括:
在读取数据的所述网络存储设备节点,根据所述预设纠错码读取与所述数据属于同一编码组中的数据;以及
如果判断所述数据所在的其他网络存储设备的节点中有效,则读取所述其他网络存储设备上的数据;
还包括:
当所述网络存储设备拟进行写数据操作时,将待写入的所述数据写入相应的网络存储设备节点,并对属于同一数据块组中并参与编码的其他校验数据同步更新;
所述网络存储设备组成了一个分布式存储集群,所述分布式存储集群按照如下方法建立:在多个网络存储设备之间建立Peer-to-Peer,P2P连接;以及
在索引和信令服务器和多个所述网络存储设备之间建立第二连接,以使所述网络存储设备组成分布式存储集群,其中,所述预设服务器被配置为:提供索引和信令。
2.一种基于网络存储设备集群的数据处理装置,其特征在于,包括:
判断模块,当网络存储设备N发起与网络存储设备M的点对点连接,拟从网络存储设备M中读取数据或向网络存储设备M写入数据时,判断所述网络存储设备M是否有效,其中,N和M为整数,表示网络存储设备的ID;
恢复模块,用于在网络存储设备M失效时,则尝试采用未失效的所述网络存储设备在网络存储设备N读取数据时恢复数据,读取数据的网络存储设备节点根据短LDPC码的tanner图解码恢复数据,并且在所述数据的恢复过程中使所述失效的网络存储设备节点数不超过预设纠错码的容错能力;
还包括:读取模块,所述读取模块包括:
第一读取单元,用于在读取数据的所述网络存储设备节点,根据所述预设纠错码读取与所述数据属于同一编码组中的数据;以及
第二读取单元,用于判断所述数据所在的其他网络存储设备的节点中有效时,则读取所述其他网络存储设备上的数据;
还包括:写入模块,所述写入模块包括:
写入单元,用于当所述网络存储设备拟进行写数据操作时,将待写入的所述数据写入相应的网络存储设备的节点,并对属于同一数据块组中并参与编码的其他校验数据同步更新;
还包括:集群模块,所述集群模块包括:
第一建立单元,用于在多个网络存储设备之间的建立第一连接;以及
第二建立单元,用于在预设服务器和多个所述网络存储设备之间建立第二连接,以使所述网络存储设备组成分布式存储集群,其中,所述预设服务器被配置为:提供索引和信令。
3.根据权利要求2所述的数据处理装置,其特征在于,所述恢复模块包括:LDPC编码器,用于使用二进制异或运算进行LDPC纠错码编码。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京猫盘技术有限公司,未经北京猫盘技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910386652.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:机器人的档案管理方法及装置
- 下一篇:一种分布式账本数据的存取系统及其应用