[发明专利]一种基于分布式存储系统的衰减式分层存储系统及方法在审
申请号: | 201910448847.9 | 申请日: | 2019-05-28 |
公开(公告)号: | CN110162273A | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 殷双飞;袁晓光 | 申请(专利权)人: | 北京计算机技术及应用研究所 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 中国兵器工业集团公司专利中心 11011 | 代理人: | 王雪芬 |
地址: | 100854*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式存储系统 分层存储系统 高速存储介质 高速性能 容量层 衰减式 低速存储介质 大规模存储 分布式存储 存储介质 海量数据 快速交互 数据迁移 信息系统 有效减少 访问 大容量 时效性 移动 热度 迁移 保存 | ||
1.一种基于分布式存储系统的衰减式分层存储系统,其特征在于,所述分布式存储系统的存储分层数至少包括两层,其中最高性能层称为第一性能层,次高性能层称为第二性能层,以此类推;在每两个性能层之间,包含有基于分布式存储系统的衰减式分层存储系统的两个模块:热度识别模块和迁移控制模块;
所述热度识别模块用于将不同访问频率的数据以访问时序为基础进行衰减统计,从而将用户数据进行不同热度的区分;所述迁移控制模块用于控制各存储层间的数据迁移,以使不同热度的数据存储至对应性能的存储层中。
2.如权利要求1所述的系统,其特征在于,所述热度识别模块具体用于对存入分布式存储系统的对象分片进行统计标记,统计内容包含对象分片的访问次数和访问时间,所述访问次数表征对象分片的访问频率,访问时间表征对象分片的新近度;每个对象分片的热度通过对访问频率进行加权统计,并根据访问时间的顺序进行衰减计算得出;对于每个对象分片的热度统计及加权计算在一个统计周期内进行,超出统计周期时,对象分片的权重将被设定为0;在统计周期内,时间被等分为多个时间片,即子统计周期,每个子统计周期的权重从当前时间点至统计周期末尾逐渐衰减至0;根据每个对象分片的访问次数和当前子统计周期的权重,累积计算求和并确定对象分片的热度。
3.如权利要求1所述的系统,其特征在于,所述迁移控制模块实现了对不同热度的对象分片进行迁移管理;数据有两个迁移方向,一个是从高性能层迁移至低性能层,另一个是从低性能层迁移至高性能层;数据的优先存储位置对应有两种可供选择,即数据优先存储至高性能层,待数据变冷之后迁移至低性能层;或者数据优先存储至低性能层,待数据变热之后存储至高性能层。
4.如权利要求3所述的系统,其特征在于,所述迁移控制模块在实现迁移管理时,数据的迁移可发生在任意两个相邻的存储层之间,也可发生在不相邻的存储层之间。
5.一种利用权利要求1至4中任一项所述的系统实现的基于分布式存储系统的衰减式分层存储方法,其特征在于,包括以下步骤:利用所述热度识别模块实现热度识别步骤:将不同访问频率的数据以访问时序为基础进行衰减统计,从而将用户数据进行不同热度的区分;利用所述迁移控制模块实现迁移控制步骤:控制各存储层间的数据迁移,以使不同热度的数据存储至对应性能的存储层中。
6.如权利要求5所述的方法,其特征在于,在热度识别步骤中,对象分片热度统计的加权累计和公式如下:
其中H表示当前对象分片的热度统计值,n表示一个统计周期内包含的子统计周期的个数,i表示子统计周期的序号,越靠近当前时间点的子统计周期序号值i越小,fi表示对应子统计周期下的对象分片访问计数。
7.如权利要求6所述的方法,其特征在于,所述迁移控制步骤中的迁移策略包括当存储层中对象分片的空间占比小于最低容量限制时,只对对象分片进行衰减老化,而不对其进行向下迁移。
8.如权利要求7所述的方法,其特征在于,所述迁移控制步骤中的迁移策略还包括当存储层中对象分片的空间占比介于最低容量限制和最高容量限制之间时,只迁移热度统计值为0的对象分片。
9.如权利要求8所述的方法,其特征在于,所述迁移控制步骤中的迁移策略还包括当存储层中对象分片的空间占比大于最高容量限制时,优先迁移热度统计值为0的对象分片,若迁移完毕后对象分片的空间占比仍大于最高容量限制,则以热度统计值升序执行数据迁移,直至对象分片占比保持在最低容量限制和最高容量限制之间。
10.如权利要求9所述的方法,其特征在于,所述迁移控制步骤中的迁移策略还包括在数据的迁移控制中,当每个存储层中的数据小于最低容量限制时,停止数据迁移。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京计算机技术及应用研究所,未经北京计算机技术及应用研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910448847.9/1.html,转载请声明来源钻瓜专利网。