[发明专利]一种用于分布式存储系统读写优化方法及装置在审
申请号: | 202110582656.9 | 申请日: | 2021-05-27 |
公开(公告)号: | CN113204536A | 公开(公告)日: | 2021-08-03 |
发明(设计)人: | 彭超峰;侯斌 | 申请(专利权)人: | 济南浪潮数据技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F12/0877;G06F3/06 |
代理公司: | 济南舜源专利事务所有限公司 37205 | 代理人: | 张营磊 |
地址: | 250000 山东省济南市中国(山东)自由贸易*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 分布式 存储系统 读写 优化 方法 装置 | ||
1.一种用于分布式存储系统读写优化方法,其特征在于,包括如下步骤:
S1.搭建分布式存储系统集群,将SSD盘设置为副本模式的高速缓存池,以及将HDD盘设置为纠删模式的普通存储池;
S2.根据客户端读写请求的地址偏移和数据长度,将数据分块处理,并根据数据块与数据块阈值的关系,实现高速缓存池及普通存储池的分类存储与读取;
S3.根据客户端读写请求的模式,调整高速缓存池数据水位,进行数据下刷,以及提取普通存储池数据到高速缓存池,进行数据上拉。
2.如权利要求1所述的用于分布式存储系统读写优化方法,其特征在于,步骤S1具体步骤如下:
S11.搭建分布式存储系统集群;
S12.将SSD盘组成高速缓存池,并配置高速缓存池的冗余模式为副本;
S13.将HDD盘组成普通存储池,并配置普通存储池的冗余模式为纠删。
3.如权利要求1所述的用于分布式存储系统读写优化方法,其特征在于,步骤S2具体步骤如下:
S21.获取客户端读写请求的地址偏移和数据长度,设置数据块阈值,将数据分块处理;
当客户端请求为写请求时,进入步骤S22;
当客户端请求为读请求时,进入步骤S23;
S22.判断写请求数据块是否大于数据块阈值,将小于等于数据块阈值的写请求数据块存储到高速缓存池,以及将大于数据块阈值的写请求数据块根据地址偏移和数据长度进行拆分,拆分后数据块分类存储到高速缓存池和普通存储池,进入步骤S3;
S23.判断读请求数据块是否大于数据块阈值,从高速缓存池读取小于等于数据块阈值的读取请求数据块,以及对于大于数据块阈值的读请求数据块根据地址偏移和数据长度分别从高速缓存池和普通存储池读取,再将两个读取部分合并。
4.如权利要求3所述的用于分布式存储系统读写优化方法,其特征在于,步骤S22具体步骤如下:
S221.判断写请求数据块是否大于数据块阈值;
若否,进入步骤S222;
若是,进入步骤S223;
S222.将写请求数据块存储到高速缓存池,并将写请求数据块的地址偏移和长度写入高速缓存池,进入步骤S3;
S223.获取写请求数据块的地址偏移和数据长度与纠删模式下处理数据单位长度进行比对,将写请求数据块划分为对齐数据块和非对齐数据块;
S224.将对齐数据块写入普通存储池,而将非对齐数据块写入高速缓存池,并将写请求数据块的地址偏移和长度写入高速缓存池,进入步骤S3。
5.如权利要求3所述的用于分布式存储系统读写优化方法,其特征在于,步骤S23具体步骤如下:
S231.判断读请求数据块是否大于数据块阈值;
若否,进入步骤S232;
若是,进入步骤S233;
S232.根据地址偏移和长度从高速缓存池读取读请求数据块,进入步骤S3;
S233.从高速缓存池读取地址偏移和长度,并根据地址偏移和长度分别从高速缓存池和普通存储池读取数据,再将高速缓存池读取的数据与普通存储池读取的数据进行合并,进入步骤S3。
6.如权利要求5所述的用于分布式存储系统读写优化方法,其特征在于,步骤S233中,当高速缓存池读取的数据与普通存储池读取的数据存在重合数据块时,使用高速缓存池的数据库替换普通存储池的重合数据块。
7.如权利要求1所述的用于分布式存储系统读写优化方法,其特征在于,步骤S3具体步骤如下:
S31.获取客户端读写请求模式,依据请求命中算法判断分布式存储系统是否将处于大块数据读场景;
若是,进入步骤S32;
若否,进入步骤S33;
S32.将普通存储池数据提取到高速缓存池,提高读性能,返回步骤S2;
S33.提取高速缓存池中满足下刷条件的冷数据,将冷数据下刷到普通存储池。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于济南浪潮数据技术有限公司,未经济南浪潮数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110582656.9/1.html,转载请声明来源钻瓜专利网。