[发明专利]一种数据重分布方法及电子设备在审
申请号: | 202211158038.2 | 申请日: | 2022-09-22 |
公开(公告)号: | CN115934311A | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 刘影 | 申请(专利权)人: | 超聚变数字技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F3/06;G06F16/27;H04L67/1097;H04L49/111 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 刘方 |
地址: | 450000 河南省郑州市郑*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 分布 方法 电子设备 | ||
1.一种数据重分布方法,其特征在于,应用于协调节点,所述协调节点用于管理多个数据节点,所述方法包括:
确定在所述多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表;
确定所述多个数据节点的当前磁盘输入输出IO资源使用率;
根据所述当前磁盘IO资源使用率,将所述待重分布数据表的数据重分布到所述多个数据节点中的部分或全部数据节点;
其中,所述当前磁盘IO资源使用率根据所述多个数据节点中的部分或全部数据节点的当前磁盘IO资源使用率确定,所述待重分布数据表为所述多个数据节点包括的数据表中待重分布的数据表。
2.根据权利要求1所述的方法,其特征在于,在所述确定在所述多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表之前,所述方法还包括:
创建M个线程,M为大于或等于1的整数;
所述将所述待重分布数据表的数据重分布到所述多个数据节点中的部分或全部数据节点包括:
通过所述M个线程将所述待重分布数据表的数据重分布到所述多个数据节点中的部分或全部数据节点。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述当前磁盘IO资源使用率,将所述待重分布数据表的数据分布到所述多个数据节点中的部分或全部数据节点,具体包括:
确定第一磁盘IO资源使用率对应的第一磁盘IO资源使用率区间,所述第一磁盘IO资源使用率为第一时刻的磁盘IO资源使用率;
根据磁盘IO资源使用率区间与各待重分布的数据表的数据量区间之间的对应关系,确定所述第一磁盘IO资源使用率区间对应的第一数据量区间;
从待重分布数据表中选择数据量处于所述第一数据量区间内的至少一个数据表;
将所述至少一个数据表中的数据分布到所述多个数据节点中的部分或全部数据节点。
4.根据权利要求1或2所述的方法,其特征在于,所述根据所述当前磁盘IO资源使用率,将所述待重分布数据表的数据分布到所述多个数据节点中的部分或全部数据节点,包括:
在确定所述当前磁盘IO资源使用率小于或等于第二阈值的情况下,根据所述当前磁盘IO资源使用率,将所述待重分布数据表的数据分布到所述多个数据节点中的部分或全部数据节点。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
在确定所述当前磁盘IO资源使用率大于所述第二阈值的情况下,停止第一数据表的重分布处理,所述第一数据表为正在进行数据重分布过程中数据量最大的表。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
在确定所述待重分布数据表的数据量均小于所述第一阈值的情况下,从所述待重分布数据表中选择第四数据表,所述第四数据表为所述待重分布数据表中任一数据表;
将所述第四数据表的数据重分布到所述多个数据节点中的部分或全部数据节点。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述方法还包括:
在业务拥塞的情况下,确定第二数据表,所述第二数据表为造成所述业务拥塞的数据表;
停止所述第二数据表的重分布处理。
8.一种数据重分布方法,其特征在于,应用于协调节点,所述协调节点用于管理多个数据节点,所述方法包括:
根据磁盘剩余可用写速率,将待重分布数据表的数据重分布到所述多个数据节点中的部分或全部数据节点;
其中,所述磁盘剩余可用写速率根据写速率阈值和当前正在进行重分布的数据表对应的写速率确定,所述待重分布数据表为所述多个数据节点包括的数据表中要重分布的数据表。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于超聚变数字技术有限公司,未经超聚变数字技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211158038.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置