[发明专利]一种基于一致性哈希的分层混合存储系统有效
申请号: | 201710960834.0 | 申请日: | 2017-10-17 |
公开(公告)号: | CN107844269B | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 冯丹;刘云;齐一川;李晶 | 申请(专利权)人: | 华中科技大学 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 华中科技大学专利中心 42201 | 代理人: | 廖盈春;李智 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 一致性 分层 混合 存储系统 | ||
1.一种基于一致性哈希的分层混合存储系统,其特征在于,包括:分层一致性哈希环、监控模块以及调度模块;
所述分层一致性哈希环包括固态硬盘集群哈希环和传统磁盘集群哈希环,其中,所述固态硬盘集群哈希环用于将热数据以副本存储策略存储至固态硬盘SSD存储集群,所述传统磁盘集群哈希环用于将冷数据与温数据以纠删码存储策略存储至传统磁盘HDD存储集群;
所述监控模块,用于监控SSD存储集群的使用情况,并在SSD存储集群的当前使用率超过当前时间段对应的迁移阈值时,按当前时间段对应的各数据访问次数和最后访问时间选择变冷数据,并通过所述调度模块将变冷数据迁移至HDD存储集群,以实现降级迁移调度;
在降级迁移调度中不同时间段对应不同的阈值Tlag、Wh以及Wl,以合理规划数据迁移时间;
所述监控模块,还用于在HDD存储集群中存在热度标志位由冷标志或温标志上升至热标志的数据时,通过所述调度模块将变热数据迁移至SSD存储集群,以实现升级迁移调度;
所述冷数据、所述温数据以及所述热数据为:
基于存储对象的存储容量,将存储容量小于小容量阈值Cl的存储对象作为小数据,将存储容量大于大容量阈值Ch的存储对象作为大数据,将存储容量在小容量阈值Cl和大容量阈值Ch之间的存储对象作为中等数据,将所述大数据作为冷数据,将所述小数据作为热数据,而所述中等数据根据访问频率在冷、热以及温数据中变化,且所述中等数据初次访问时均作为热数据;
其中,Tlag为当前时间段对应的时间间隔阈值;Wh为存储对象容量占SSD总容量的百分比最大阈值;Wl为存储对象容量占SSD总容量的百分比最小阈值。
2.根据权利要求1所述的系统,其特征在于,所述固态硬盘SSD存储集群中的数据信息采用森林数据结构进行管理,其中,所述森林数据结构由多棵平衡二叉树构成,在代理服务处理写SSD存储集群请求时,则创建一个待写入数据对应的树节点,并将创建的树节点插入所述森林数据结构的树中,以使SSD存储集群中的存储对象均有对应的树节点;在代理服务处理读请求时,则查找所述森林数据结构中是否存在待读数据对应的树节点,若存在则从SSD存储集群读取数据,若不存在,则从HDD存储集群读取数据。
3.根据权利要求1或2任意一项所述的系统,其特征在于,所述监控模块,具体用于监控SSD存储集群中的数据以及SSD存储集群的使用率,若SSD存储集群的当前使用率超过当前时间段对应的阈值Wh时,则通过所述调度模块将SSD存储集群中的变冷数据迁移至HDD存储集群,若SSD存储集群的当前使用率小于当前时间段对应的阈值Wl时,则停止数据降级迁移操作,其中,若SSD存储集群中的数据的最后一次访问时间与当前时间差的绝对值大于当前时间段对应的时间间隔阈值Tlag,且访问次数小于SSD存储集群中其他数据的访问次数时,则认为数据变冷,Wh为存储对象容量占SSD总容量的百分比最大阈值,Wl为存储对象容量占SSD总容量的百分比最小阈值。
4.根据权利要求3所述的系统,其特征在于,在降级迁移调度中,分别对森林数据结构中的每棵树根据访问次数进行冷热排序,每次从每棵树中选取前W-Wl比例的变冷节点进行数据迁移,直至SSD存储集群使用率小于Wl,其中,W表示SSD存储集群的当前使用率。
5.根据权利要求1或2所述的系统,其特征在于,所述监控模块,具体还用于监控HDD存储集群中数据容量小于大容量阈值Ch的数据,并将热度标志位为热的数据通过所述调度模块迁移至SSD存储集群,其中,对于HDD存储集群中数据容量小于大容量阈值Ch的数据,当数据的连续两次访问时间间隔小于最小访问间隔时间Tmin时,将数据对应的热度标志位向上升一级,当连续两次访问时间间隔在最小访问间隔时间Tmin和最大访问间隔时间Tmax之间时,数据的热度标志位不变,当连续两次访问时间间隔大于最大访问间隔时间Tmax时,将数据的热度标志位向下降一级,以确定最终数据的热度标志。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710960834.0/1.html,转载请声明来源钻瓜专利网。