[发明专利]一种数据重分布方法及电子设备在审
申请号: | 202211158038.2 | 申请日: | 2022-09-22 |
公开(公告)号: | CN115934311A | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 刘影 | 申请(专利权)人: | 超聚变数字技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F3/06;G06F16/27;H04L67/1097;H04L49/111 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 刘方 |
地址: | 450000 河南省郑州市郑*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 分布 方法 电子设备 | ||
本申请实施例公开一种数据重分布方法及电子设备,该方法应用于协调节点,该协调节点用于管理多个数据节点,该方法包括:确定在多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表;确定该多个数据节点的当前磁盘IO资源使用率;根据当前磁盘IO资源使用率,将待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点;其中,当前磁盘IO资源使用率根据该多个数据节点中的部分或全部数据节点的当前磁盘IO资源使用率确定,待重分布数据表为该多个数据节点包括的数据表中待重分布的数据表。本申请实施例,可以有效利用当前剩余的磁盘IO资源,从而可以提高数据重分布效率。
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据重分布方法及电子设备。
背景技术
随着网络、通信技术的快速发展,海量数据正以前所未有的增长趋势冲击着各个行业。为了有效地管理、维护这些数据,以及对这些数据进行处理,用户对数据库存储容量的需求越来越大,对数据库性能的要求也越来越高。其中,分布式集群数据库由于其高可用性、可伸缩性、负载均衡的特点,在实际应用上越来越广泛。
由于分布式集群数据库的可伸缩性,分布式集群数据库中节点的数量可以根据业务需求进行调整。例如,随着数据的不断增加,为了支持更大规模的数据存储和查询,可以对数据库集群进行扩容,即添加新的节点到数据库集群中。并且,为了可以充分利用新增节点以及实现每个节点的负载均衡,在将新的节点加入到数据库集群中之后,可以将原始节点存储的数据重分布到扩容后的所有节点上。
与此同时,如何设计合适的重分布策略,充分利用磁盘输入输出(input/output,IO)资源,提高数据重分布效率是技术人员关注的问题。
发明内容
本申请实施例公开了一种数据重分布方法及电子设备,用于提高数据重分布效率。
第一方面公开一种数据重分布方法,该数据重分布方法可以应用于协调节点,也可以应用于协调节点中的模块(例如,芯片),还可以应用于能实现全部或部分协调节点功能的逻辑模块或软件。该协调节点可以用于管理多个数据节点,下面以应用于协调节点为例进行描述。该数据重分布方法可以包括:确定在该多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表;确定该多个数据节点的当前磁盘输入输出IO资源使用率;根据该当前磁盘IO资源使用率,将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点;其中,该当前磁盘IO资源使用率根据该多个数据节点中的部分或全部数据节点的当前磁盘IO资源使用率确定,该待重分布数据表为该多个数据节点包括的数据表中待重分布的数据表。
本申请实施例中,由于数据表的数据量不同,数据重分布时占用的磁盘IO资源不同。同时,数据量小于第一阈值的数据表可以为小表,数据重分布时基本上不占用磁盘IO资源。因此,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表时,协调节点可以根据当前磁盘输入输出IO资源使用率,将待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点。这样,可以有效利用当前剩余的磁盘IO资源,从而可以提高数据重分布效率。
作为一种可能的实施方式,在该确定在该多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表之前,该方法还可以包括:创建M个线程,M为大于或等于1的整数;该将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点包括:通过该M个线程将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点。
本申请实施例中,协调节点可以通过M个线程并行进行待重分布数据表的数据重分布,这样,可以提高数据重分布的效率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于超聚变数字技术有限公司,未经超聚变数字技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211158038.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置