[发明专利]一种数据重分布方法及电子设备在审

专利信息
申请号: 202211158038.2 申请日: 2022-09-22
公开(公告)号: CN115934311A 公开(公告)日: 2023-04-07
发明(设计)人: 刘影 申请(专利权)人: 超聚变数字技术有限公司
主分类号: G06F9/50 分类号: G06F9/50;G06F3/06;G06F16/27;H04L67/1097;H04L49/111
代理公司: 广州三环专利商标代理有限公司 44202 代理人: 刘方
地址: 450000 河南省郑州市郑*** 国省代码: 河南;41
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 分布 方法 电子设备
【说明书】:

本申请实施例公开一种数据重分布方法及电子设备,该方法应用于协调节点,该协调节点用于管理多个数据节点,该方法包括:确定在多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表;确定该多个数据节点的当前磁盘IO资源使用率;根据当前磁盘IO资源使用率,将待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点;其中,当前磁盘IO资源使用率根据该多个数据节点中的部分或全部数据节点的当前磁盘IO资源使用率确定,待重分布数据表为该多个数据节点包括的数据表中待重分布的数据表。本申请实施例,可以有效利用当前剩余的磁盘IO资源,从而可以提高数据重分布效率。

技术领域

发明涉及计算机技术领域,尤其涉及一种数据重分布方法及电子设备。

背景技术

随着网络、通信技术的快速发展,海量数据正以前所未有的增长趋势冲击着各个行业。为了有效地管理、维护这些数据,以及对这些数据进行处理,用户对数据库存储容量的需求越来越大,对数据库性能的要求也越来越高。其中,分布式集群数据库由于其高可用性、可伸缩性、负载均衡的特点,在实际应用上越来越广泛。

由于分布式集群数据库的可伸缩性,分布式集群数据库中节点的数量可以根据业务需求进行调整。例如,随着数据的不断增加,为了支持更大规模的数据存储和查询,可以对数据库集群进行扩容,即添加新的节点到数据库集群中。并且,为了可以充分利用新增节点以及实现每个节点的负载均衡,在将新的节点加入到数据库集群中之后,可以将原始节点存储的数据重分布到扩容后的所有节点上。

与此同时,如何设计合适的重分布策略,充分利用磁盘输入输出(input/output,IO)资源,提高数据重分布效率是技术人员关注的问题。

发明内容

本申请实施例公开了一种数据重分布方法及电子设备,用于提高数据重分布效率。

第一方面公开一种数据重分布方法,该数据重分布方法可以应用于协调节点,也可以应用于协调节点中的模块(例如,芯片),还可以应用于能实现全部或部分协调节点功能的逻辑模块或软件。该协调节点可以用于管理多个数据节点,下面以应用于协调节点为例进行描述。该数据重分布方法可以包括:确定在该多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表;确定该多个数据节点的当前磁盘输入输出IO资源使用率;根据该当前磁盘IO资源使用率,将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点;其中,该当前磁盘IO资源使用率根据该多个数据节点中的部分或全部数据节点的当前磁盘IO资源使用率确定,该待重分布数据表为该多个数据节点包括的数据表中待重分布的数据表。

本申请实施例中,由于数据表的数据量不同,数据重分布时占用的磁盘IO资源不同。同时,数据量小于第一阈值的数据表可以为小表,数据重分布时基本上不占用磁盘IO资源。因此,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表时,协调节点可以根据当前磁盘输入输出IO资源使用率,将待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点。这样,可以有效利用当前剩余的磁盘IO资源,从而可以提高数据重分布效率。

作为一种可能的实施方式,在该确定在该多个数据节点中,在待重分布数据表中存在对应的数据量大于或等于第一阈值的数据表之前,该方法还可以包括:创建M个线程,M为大于或等于1的整数;该将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点包括:通过该M个线程将该待重分布数据表的数据重分布到该多个数据节点中的部分或全部数据节点。

本申请实施例中,协调节点可以通过M个线程并行进行待重分布数据表的数据重分布,这样,可以提高数据重分布的效率。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于超聚变数字技术有限公司,未经超聚变数字技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202211158038.2/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top