[发明专利]数据分片副本部署方法及装置有效
申请号: | 201910944239.7 | 申请日: | 2019-09-30 |
公开(公告)号: | CN110716698B | 公开(公告)日: | 2022-08-26 |
发明(设计)人: | 马申跃;范亚平 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/27 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 杨春香 |
地址: | 450000 河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 分片 副本 部署 方法 装置 | ||
1.一种数据分片副本部署方法,应用于包括配置服务器和分片服务器的数据库集群中的配置服务器,其特征在于,所述数据库集群还包括zookeeper服务器,所述zookeeper服务器分别与所述配置服务器和分片服务器连接,所述方法包括:
获取所述数据库集群中各分片服务器的存储空间剩余量;
监听到zookeeper服务器中第一存储结点新增第一存储子结点时,获取该第一存储子结点存储的数据分片标识和存储该数据分片的分片服务器标识,根据各分片服务器的存储空间剩余量,从其他分片服务器中选择用于存储数据分片副本的目标分片服务器,其中,所述第一存储结点用于存储数据分片信息,第一存储结点包括至少一个第一存储子结点,每一个第一存储子结点对应一个数据分片;
将所述数据分片副本存储至目标分片服务器,并将所述数据分片副本的标识注册至zookeeper服务器中第二存储结点的目标第二存储子结点,目标第二存储子结点为预先指定的由目标分片服务器负责监听的第二存储子结点,以使目标分片服务器监听到目标第二存储子结点新增数据分片副本的注册信息时,为所述数据分片副本分配端口,所述端口用于对所述数据分片副本进行操作,其中,所述第二存储结点用于存储分片服务器信息,第二存储结点包括至少一个第二存储子结点,每一个第二存储子结点对应一个分片服务器。
2.根据权利要求1所述的方法,其特征在于,所述根据各分片服务器的存储空间剩余量,从其他分片服务器中选择用于存储数据分片副本的目标分片服务器包括:
从各分片服务器中选择出满足指定规则的至少一个候选分片服务器;
依据候选分片服务器的存储空间剩余量确定候选分片服务器的选中参数,所述选中参数为候选分片服务器被选中为目标分片服务器的依据;
依据候选分片服务器的选中参数从所有的候选分片服务器中选择所述目标分片服务器。
3.根据权利要求2所述的方法,其特征在于,所述存储空间剩余量包括:磁盘预测剩余量以及内存剩余量;
依据候选分片服务器的存储空间剩余量确定候选分片服务器的选中参数包括:
针对每一候选分片服务器,计算该候选分片服务器的磁盘预测剩余量与N的第一比值,以及计算该候选分片服务器的内存剩余量与M的第二比值,N为候选分片服务器的磁盘预测剩余量总和,M为分片服务器的内存剩余量总和;
将所述第一比值与第二比值进行设定计算得到所述选中参数。
4.根据权利要求3所述的方法,其特征在于,所述磁盘预测剩余量通过以下方式获取:
接收每一分片服务器发送的该分片服务器预测出的磁盘预测剩余量;
其中,所述分片服务器通过以下方式预测磁盘预测剩余量:计算本分片服务器存储的每一数据分片在单位时间内的磁盘使用量,以及计算本分片服务器存储的每一数据分片副本在单位时间内的磁盘使用量;根据所有数据分片在单位时间内的磁盘使用量和所有数据分片副本在单位时间内的磁盘使用量计算单位时间内磁盘平均使用量,根据所述磁盘平均使用量、本分片服务器的磁盘总容量、以及本分片服务器当前的磁盘占用量预测指定时长结束后的磁盘预测剩余量。
5.一种数据分片副本部署方法,应用于包括配置服务器和分片服务器的数据库集群中的分片服务器,其特征在于,所述数据库集群还包括zookeeper服务器,所述zookeeper服务器分别与所述配置服务器和分片服务器连接,所述方法包括:
监听zookeeper服务器中第二存储结点的目标第二存储子结点,所述目标第二存储子结点为预先指定的由所述分片服务器负责监听的第二存储子结点;
当分片服务器监听到目标第二存储子结点新增数据分片副本的注册信息时,为所述数据分片副本分配端口,所述端口用于对所述数据分片副本进行操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910944239.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种信息处理方法和设备
- 下一篇:用于写入数据的方法和装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置