[发明专利]基于高带宽存储系统的数据同步方法有效

专利信息
申请号: 201710337773.2 申请日: 2017-05-15
公开(公告)号: CN107133334B 公开(公告)日: 2020-01-14
发明(设计)人: 许荣福 申请(专利权)人: 成都优孚达信息技术有限公司
主分类号: G06F16/182 分类号: G06F16/182;H04L29/08
代理公司: 11340 北京天奇智新知识产权代理有限公司 代理人: 杨春
地址: 610041 四川省成都市高新*** 国省代码: 四川;51
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 带宽 存储系统 数据 同步 方法
【权利要求书】:

1.一种基于高带宽存储系统的数据同步方法,用于在基于SSD的分布式存储系统中进行数据存储,其特征在于,包括:

SSD节点在接收到文件划分成的簇时,将其封装成定长数据段,

随后将多个定长数据段分成一组,执行纠删码算法生成多个编码对象;

将编码对象组内的各个对象分散到不同节点上存储;

对于同一个或同一批文件所属的新簇,将其封装并分组编码生成的编码对象组调度到同一组节点存储;

当接收到文件读取请求后,解析请求中附带的文件标识符;

根据文件标识符查询相应文件的簇列表,包括查询该文件包含的所有簇的标识符,然后根据各簇的标识符查询出其所属的对象的标识符,根据对象的标识符查询出对象所属的编码对象组的标识符,再通过对象组的标识符查询出该对象所在的SSD节点的标识符;

全部查询完成后,将文件所包含的所有簇的标识符列表、各簇所属对象的标识符以及该对象所在SSD节点的标识符信息都一并存储到专门的结构;

根据该结构中包含的簇标识符列表和各簇的存放位置信息,从相应的SSD节点读取各簇的数据;

SSD节点通过对象标识符查找到对象所存放的位置,然后通过簇标识符在该对象的簇索引内进行查找,找到该簇在对象内的偏移地址和长度,最后读取相应区间的数据;

按照所述结构中指定的顺序拼装到一起,最终组合成原始文件。

2.根据权利要求1所述的方法,其特征在于,所述分布式存储系统当检测到某个SSD节点失效时,其首先查询该节点所包含的所有对象的信息,然后调度系统内多个健康节点同时开展恢复工作,各自负责一部分对象的恢复;

当SSD节点超载时,通过纠删编码算法由其他轻载节点上的对象计算出该超载节点上的对象,进而将对象副本临时存放在这些轻载节点上并对外提供服务,减轻超载节点的负担;

使用区域映射表管理数据均衡化,维护簇对应的SSD节点之间的映射关系;当某个簇位于SSD节点上的所有数据迁移至备用节点后,原有映射记录与写时复制产生的新版本映射记录进行合并;区域映射表还将数据请求重定向到对应的SSD节点,为记录对应每个SSD节点上对应文件的具体位置,区域映射表中的记录以文件或数据库的形式进行存储,并使用散列索引存储在内存中;内存中的映射记录变化将被同步的写入存储层;

当检测模块检测到写性能下降后,选择使用发生写性能下降的SSD节点的相应簇进行数据迁移;使用节点映射表快速定位到每个SSD节点中存储的簇,节点映射表和区域映射表之间是逆向映射关系;从两个方面对每一个簇进行监控:1)首先是每个簇落入的数据写请求总次数,代表着这个簇的写频度;2)其次是每个SSD节点上各个簇的写频度排序,当发生写性能下降的SSD节点上的簇被选择迁移时,根据写频度的排序,选取写请求数据量最少的节点作为迁移的目标。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都优孚达信息技术有限公司,未经成都优孚达信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710337773.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top