[发明专利]基于Ceph的读写模型优化和异构副本组合方法有效
申请号: | 201810660726.6 | 申请日: | 2018-06-25 |
公开(公告)号: | CN108920100B | 公开(公告)日: | 2021-06-15 |
发明(设计)人: | 熊安萍;姚朋成;龙林波 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京同恒源知识产权代理有限公司 11275 | 代理人: | 赵荣之 |
地址: | 400065 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 ceph 读写 模型 优化 副本 组合 方法 | ||
1.一种基于Ceph的读写模型优化和异构副本组合方法,其特征在于,该方法具体包括以下步骤:
S1:改变Ceph副本写强一致性模型为副本写弱一致性模型,当主副本节点写完毕后立即返回客户端写成功信息,降低集群的写延迟以提高集群的写性能;具体包括以下步骤:
S11:客户端通过映射算法CRUSH得到一组副本节点,并将第一个节点作为主副本节点,其他为从副本节点,客户端将对象发送给主副本节点;
S12:主副本节点将对象写入磁盘并同时开启一个线程将对象发送给从副本节点,当主副本节点完成写入后立即返回客户端写入成功信息,并由主副本节点的后台维护从副本节点的该对象写入;
S2:采用一种读优化方案,用副本节点的综合性能作为权重,来决定副本节点提供读服务的概率,充分发挥从副本的性能以提高集群的读性能;具体包括以下步骤:
S21:在读取对象时,先通过映射算法计算出对象的一组存储副本节点,并判断对象是否被从副本节点写完毕;
S22:若从副本节点中的对象还没有写入完毕,则直接从主副本节点读取对象;
S23:若从副本节点中的对象写入完毕,则通过节点的综合性能算法计算出每一个副本节点的性能值,将每个节点的性能值分别乘以一个不同的随机数,由乘积最大的节点来提供读服务;
S3:对象副本节点通过SSD和HDD的不同组合方式的读写性能发挥集群的异构特性,并设置对象的初始副本组合方式为1SSD+2HDD;
所述对象副本节点通过SSD和HDD的不同组合方式为:3HDD、1SSD+2HDD、2SSD+1HDD和3SSD,其中SSD为主副本;不同副本组合方式中读性能分为四级:3HDD﹤1SSD+2HDD﹤2SSD+1HDD﹤3SSD;写性能分为两级:3HDD1SSD+2HDD=2SSD+1HDD=3SSD;
S4:根据集群的数据热度采用一种数据迁移方案,同时改进Ceph选择对象存储节点算法,根据数据热度将对象迁移到符合相应副本组合方式中,从而提高整个Ceph集群的读写性能;
根据收集数据的热度分析,将相应热度级别的对象迁移到步骤S3中对应的四种副本组合方式的中;将读热度分为四个级别:冷RT1、较热RT2、热RT3和最热RT4,分别对应四种不同的组合方式,读热度RT1对应组合方式3HDD,读热度RT2对应组合方式1SSD+2HDD,读热度RT3对应组合方式2SSD+1HD,读热度RT4对应组合方式3SDD;将写热度分为两个级别:冷WT1和热WT2,分别对应相应的副本组合方式,写热度WT1对应组合方式3HDD,写热度WT2对应组合方式1SSD+2HDD、2SSD+1HDD和3SSD;
在进行对象的读写热度分析后,最终的副本组合方式选取过程如下:
S41:根据副本组合方式和对象读热度对应关系得到符合对象读热度的副本组合方式;
S42:分析对象的写热度,若写热度为WT1,则写热度副本组合方式为3HDD,若写热度为WT2,则写热度组合方式为1SSD+2HDD、2SSD+1HDD和3SSD;
S43:取符合对象读热度的副本组合方式与符合写热度的副本组合方式的交集,交集不空,则返回交集,结束;交集为空,则下一步;
S44:若对象写热度为WT2,则取符合写热度的副本组合方式为1SSD+2HDD,然后与符合对象读热度的副本组合方式比较,取SSD最多的副本组合方式;若对象写热度为WT1,则直接比较符合对象读热度的副本组合方式,取SSD最多的组合方式。
2.根据权利要求1所述的基于Ceph的读写模型优化和异构副本组合方法,其特征在于,所述通过节点的综合性能算法计算出每一个副本节点的性能值为:
Pi=w1Distancei+w2Diski+w3CPUi+w4Memi (1)
其中,Pi为存储节点的性能,Distancei为存储节点的距离,Diski为存储节点的硬盘,CPUi为存储节点的CPU,Memi为存储节点的内存,w为各个性能指标的占比参数;
从副本节点中选择Decision最大的节点来提供读服务,
Decisioni=Pi*Randomi (2)
其中,Randomi为随机数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810660726.6/1.html,转载请声明来源钻瓜专利网。