[发明专利]数据处理方法和装置有效
申请号: | 201910052954.X | 申请日: | 2014-11-05 |
公开(公告)号: | CN109918021B | 公开(公告)日: | 2022-01-07 |
发明(设计)人: | 罗雄 | 申请(专利权)人: | 超聚变数字技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/13 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 450046 河南省郑州市郑*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 | ||
1.一种数据处理方法,应用于分区管理设备中,所述分区管理设备中存储有集群的分区视图,所述分区视图记录有当前分区和所述集群中的存储盘的对应关系,其中,所述当前分区是指与所述集群的存储盘所对应的分区,该方法包括:
获得键-值Key-Value数据中的值Key,根据所述Key计算所述Key-Value数据对应的终分区,其中,所述Key-Value数据包括所述Key以及值Value,所述Value与所述Key对应;
计算所述终分区对应的当前分区,其中,每个当前分区对应多个终分区,所述当前分区的总数少于所述终分区的总数;
查询所述分区视图,获得当前分区对应的存储盘;
以所述存储盘作为目的地址生成Key-Value报文,发送所述Key-Value报文给所述存储盘所对应的存储盘,所述Key-Value报文携带所述Key-Value数据。
2.根据权利要求1所述的数据处理方法,所述方法还包括:
如果当前分区的数量与存储盘的数量的比值小于阈值的时候,则对当前分区的数量进行扩容。
3.根据权利要求2所述的数据处理方法,所述扩容包括:
当检测到有N个新的存储盘准备加入所述集群时,获取所述集群中当前存储盘数量M,以及所述集群中当前分区总数T,其中M,N以及T都是自然数;
判断当前分区总数T与存储盘总数M+N的数学关系是否满足第一预定条件;
如果满足第一预定条件,则对至少一个所述当前分区进行分裂,使得分裂后的分区总数是S,S>T,并将分裂后的分区分配给M+N个存储盘,分裂后的分区总数S与存储盘总数M+N的数学关系满足第二预定条件,并且分裂后的分区总数不大于所述集群支持的终分区总数L,其中L、S都是大于1的自然数。
4.根据权利要求1、2或3所述的数据处理方法,其中,根据所述Key计算所述Key-Value数据对应的终分区具体包括:
对所述Key进行哈希运算得到所述Key的哈希值,对所述哈希值按照所述终分区总数进行取模运算,余数与所述终分区的ID对应。
5.根据权利要求1或2所述的数据处理方法,其中,所述分区管理设备还记录有当前分区总数T,计算所述终分区对应的当前分区具体包括:
对所述终分区的ID按照当前分区总数T进行取模运算,余数与所述当前分区的ID对应。
6.根据权利要求1所述的数据处理方法,所述数据处理方法具体为写数据方法,所述获得键-值Key-Value数据中的值Key之前,进一步包括:
把待写数据切分成包含所述值Value的Value集合,生成所述Value的所述Key,形成所述Key-Value数据。
7.一种数据处理装置,该装置包括:
存储模块,用于存储集群的分区视图,所述分区视图记录有当前分区和所述集群中的存储盘的对应关系,其中,所述当前分区是指与所述集群的存储盘所对应的分区;
终分区计算模块,用于获得键-值Key-Value数据中的值Key,根据所述Key计算所述Key-Value数据对应的终分区,其中,所述Key-Value数据包括所述Key以及值Value,所述Value与所述Key对应;
当前分区计算模块,用于计算所述终分区对应的当前分区,其中,每个当前分区对应多个终分区,所述当前分区的总数少于所述终分区的总数;
查询模块,用于查询所述存储模块所存储的所述分区视图,获得当前分区对应的存储盘;
发送模块,用于以所述存储盘作为目的地址生成Key-Value报文,发送所述Key-Value报文给所述存储盘所对应的存储盘,所述Key-Value报文携带所述Key-Value数据。
8.根据权利要求7所述的数据处理装置,所述数据处理装置还包括:
分区分裂模块,用于在当前分区的数量与存储盘的数量的比值小于阈值的时候,对当前分区的数量进行扩容。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于超聚变数字技术有限公司,未经超聚变数字技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910052954.X/1.html,转载请声明来源钻瓜专利网。