[发明专利]数据存储方法、装置及存储介质有效
申请号: | 201810079304.X | 申请日: | 2018-01-26 |
公开(公告)号: | CN108287669B | 公开(公告)日: | 2019-11-12 |
发明(设计)人: | 刘源 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人: | 于志光;郭梦霞 |
地址: | 518000 广东省深*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 业务组 子集群 数据存储 数据块 计算机可读存储介质 分布式存储系统 存储数据文件 存储介质 存储系统 副本存储 接收用户 数据文件 拓扑结构 信息确定 预设规则 预设周期 分配 集群 算法 配置 | ||
1.一种数据存储方法,应用于电子装置,该电子装置通过网络连接分布式存储系统,分布式存储系统提供一系列主机及对象存储设备(Object Storage Device,OSD),其特征在于,该方法包括:
设备分配步骤:每隔预设周期按照预设规则确定各业务组使用的OSD的数量,并为同一个业务组的OSD分配一个唯一的子集群标识,其中,具有不同子集群标识的OSD位于不同的主机;
请求接收步骤:接收用户向分布式存储系统存储数据文件的请求;
业务组确定步骤:根据用户的识别信息确定该用户所属的业务组及该业务组OSD的子集群标识;及
文件存储步骤:将所述数据文件均匀切分为多个数据块,利用在可扩展散列下的受控复制(Controlled Replication Under Scalable Hashing,CRUSH)算法将每个数据块的多个副本存储在具有对应子集群标识的OSD中。
2.如权利要求1所述的数据存储方法,其特征在于,所述设备分配步骤中的预设规则包括:
统计各业务组在一个预设周期内在分布式存储系统中存储数据的历史资料,包括总数据大小、涉及的OSD总数量和发生数据迁移的OSD数量;
根据各业务组的总数据大小、涉及的OSD总数量和发生数据迁移的OSD数量计算得到所有业务组在该预设周期内在该分布式存储系统中存储数据的平均数据大小、平均OSD数量和发生数据迁移的OSD平均数量;
当某个业务组的总数据大小与所有业务组的平均数据大小之差每大于第一预设阈值时,在所述涉及的OSD总数量的基础上,为该业务组增加第一预设数量的OSD;
当某个业务组发生数据迁移的OSD数量与所有业务组发生数据迁移的OSD平均数量之差每大于第二预设阈值时,在所述涉及的OSD总数量的基础上,为该业务组增加第二预设数量的OSD。
3.如权利要求1所述的数据存储方法,其特征在于,所述文件存储步骤包括以下步骤:
将所述数据文件均匀切分为多个数据块;
将每个数据块映射到一个归置组(placement group,PG)中;
利用CRUSH算法将每个PG的多个副本存储在具有对应子集群标识的OSD中。
4.如权利要求1或2所述的数据存储方法,其特征在于,该方法还包括:当一个OSD发生故障时,利用该OSD所属子集群的其它OSD存储的副本数据恢复该OSD中存储的数据。
5.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中包括数据存储程序,所述数据存储程序被所述处理器执行时实现如下步骤:
设备分配步骤:每隔预设周期按照预设规则确定各业务组使用的OSD的数量,并为同一个业务组的OSD分配一个唯一的子集群标识,其中,具有不同子集群标识的OSD位于不同的主机;
请求接收步骤:接收用户向分布式存储系统存储数据文件的请求;
业务组确定步骤:根据用户的识别信息确定该用户所属的业务组及该业务组OSD的子集群标识;及
文件存储步骤:将所述数据文件均匀切分为多个数据块,利用CRUSH算法将每个数据块的多个副本存储在具有对应子集群标识的OSD中。
6.如权利要求5所述的电子装置,其特征在于,所述设备分配步骤中的预设规则包括:
统计各业务组在一个预设周期内在分布式存储系统中存储数据的历史资料,包括总数据大小、涉及的OSD总数量和发生数据迁移的OSD数量;
根据各业务组的总数据大小、涉及的OSD总数量和发生数据迁移的OSD数量计算得到所有业务组在该预设周期内在该分布式存储系统中存储数据的平均数据大小、平均OSD数量和发生数据迁移的OSD平均数量;
当某个业务组的总数据大小与所有业务组的平均数据大小之差每大于第一预设阈值时,在所述涉及的OSD总数量的基础上,为该业务组增加第一预设数量的OSD;
当某个业务组发生数据迁移的OSD数量与所有业务组发生数据迁移的OSD平均数量之差每大于第二预设阈值时,在所述涉及的OSD总数量的基础上,为该业务组增加第二预设数量的OSD。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810079304.X/1.html,转载请声明来源钻瓜专利网。