[发明专利]基于高带宽存储系统的数据同步方法有效
申请号: | 201710337773.2 | 申请日: | 2017-05-15 |
公开(公告)号: | CN107133334B | 公开(公告)日: | 2020-01-14 |
发明(设计)人: | 许荣福 | 申请(专利权)人: | 成都优孚达信息技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;H04L29/08 |
代理公司: | 11340 北京天奇智新知识产权代理有限公司 | 代理人: | 杨春 |
地址: | 610041 四川省成都市高新*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 带宽 存储系统 数据 同步 方法 | ||
1.一种基于高带宽存储系统的数据同步方法,用于在基于SSD的分布式存储系统中进行数据存储,其特征在于,包括:
SSD节点在接收到文件划分成的簇时,将其封装成定长数据段,
随后将多个定长数据段分成一组,执行纠删码算法生成多个编码对象;
将编码对象组内的各个对象分散到不同节点上存储;
对于同一个或同一批文件所属的新簇,将其封装并分组编码生成的编码对象组调度到同一组节点存储;
当接收到文件读取请求后,解析请求中附带的文件标识符;
根据文件标识符查询相应文件的簇列表,包括查询该文件包含的所有簇的标识符,然后根据各簇的标识符查询出其所属的对象的标识符,根据对象的标识符查询出对象所属的编码对象组的标识符,再通过对象组的标识符查询出该对象所在的SSD节点的标识符;
全部查询完成后,将文件所包含的所有簇的标识符列表、各簇所属对象的标识符以及该对象所在SSD节点的标识符信息都一并存储到专门的结构;
根据该结构中包含的簇标识符列表和各簇的存放位置信息,从相应的SSD节点读取各簇的数据;
SSD节点通过对象标识符查找到对象所存放的位置,然后通过簇标识符在该对象的簇索引内进行查找,找到该簇在对象内的偏移地址和长度,最后读取相应区间的数据;
按照所述结构中指定的顺序拼装到一起,最终组合成原始文件。
2.根据权利要求1所述的方法,其特征在于,所述分布式存储系统当检测到某个SSD节点失效时,其首先查询该节点所包含的所有对象的信息,然后调度系统内多个健康节点同时开展恢复工作,各自负责一部分对象的恢复;
当SSD节点超载时,通过纠删编码算法由其他轻载节点上的对象计算出该超载节点上的对象,进而将对象副本临时存放在这些轻载节点上并对外提供服务,减轻超载节点的负担;
使用区域映射表管理数据均衡化,维护簇对应的SSD节点之间的映射关系;当某个簇位于SSD节点上的所有数据迁移至备用节点后,原有映射记录与写时复制产生的新版本映射记录进行合并;区域映射表还将数据请求重定向到对应的SSD节点,为记录对应每个SSD节点上对应文件的具体位置,区域映射表中的记录以文件或数据库的形式进行存储,并使用散列索引存储在内存中;内存中的映射记录变化将被同步的写入存储层;
当检测模块检测到写性能下降后,选择使用发生写性能下降的SSD节点的相应簇进行数据迁移;使用节点映射表快速定位到每个SSD节点中存储的簇,节点映射表和区域映射表之间是逆向映射关系;从两个方面对每一个簇进行监控:1)首先是每个簇落入的数据写请求总次数,代表着这个簇的写频度;2)其次是每个SSD节点上各个簇的写频度排序,当发生写性能下降的SSD节点上的簇被选择迁移时,根据写频度的排序,选取写请求数据量最少的节点作为迁移的目标。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都优孚达信息技术有限公司,未经成都优孚达信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710337773.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置