[发明专利]分布式数据的均衡处理方法、装置、计算终端和存储介质有效
申请号: | 201910882725.0 | 申请日: | 2019-09-18 |
公开(公告)号: | CN110673794B | 公开(公告)日: | 2021-12-17 |
发明(设计)人: | 刘少麟;张强 | 申请(专利权)人: | 中兴通讯股份有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F9/50 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 谭晓欣 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种分布式数据的均衡处理方法、装置、计算终端和存储介质。分布式数据的均衡处理方法包括:获取shuffle统计数据;根据shuffle统计数据,判断是否存在数据倾斜分区;当存在数据倾斜分区时,对数据倾斜分区进行切分;根据切分后的分区,改写物理计划;执行改写后的物理计划。通过以上技术手段,能有效解决数据倾斜情况下导致性能大幅下降问题,实现分布式数据的均衡处理,提升分布式计算的运行速度。 | ||
搜索关键词: | 分布式 数据 均衡 处理 方法 装置 计算 终端 存储 介质 | ||
【主权项】:
1.分布式数据的均衡处理方法,包括:/n获取shuffle统计数据,其中,所述shuffle统计数据包括shuffle阶段中各个分区的数据量;/n根据shuffle统计数据,判断是否存在数据倾斜分区;/n当存在数据倾斜分区时,对数据倾斜分区进行切分;/n根据切分后的分区,改写物理计划;/n执行改写后的物理计划。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中兴通讯股份有限公司,未经中兴通讯股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910882725.0/,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置