[发明专利]一种基于MapReduce识别优化数据倾斜的方法及系统在审

专利信息
申请号: 201510619074.8 申请日: 2015-09-25
公开(公告)号: CN105975463A 公开(公告)日: 2016-09-28
发明(设计)人: 邹艳梅;潘宣辰 申请(专利权)人: 武汉安天信息技术有限责任公司
主分类号: G06F17/30 分类号: G06F17/30;G06F9/50
代理公司: 暂无信息 代理人: 暂无信息
地址: 430000 湖北省武汉市东湖新技术开*** 国省代码: 湖北;42
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种基于MapReduce识别优化数据倾斜的方法及系统,首先构建数据倾斜指标的标准值和数据倾斜决策树优化方案,通过数据倾斜指标的实际值与数据倾斜指标的标准值对比,自动识别是否存在数据倾斜,若存在数据倾斜,则量化评估数据倾斜的程度并确定所属优化场景类型和选择合适的决策树优化方案进行优化,最后对决策树优化方案进行修改和扩展。通过本方法解决了传统方法没有识别数据倾斜的能力,优化方案单一,人工判断效率低的问题。
搜索关键词: 一种 基于 mapreduce 识别 优化 数据 倾斜 方法 系统
【主权项】:
一种基于MapReduce识别优化数据倾斜的方法,其特征在于:构建数据倾斜指标和数据倾斜指标的标准值;根据先验知识和数据倾斜指标的标准值构建数据倾斜决策树优化方案;根据数据倾斜指标的标准值和数据倾斜指标的实际值,自动识别是否存在数据倾斜;若存在数据倾斜,则根据数据倾斜指标的实际值确定所属优化场景类型;根据优化场景类型选择合适的决策树优化方案进行优化;更新决策树优化方案。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉安天信息技术有限责任公司,未经武汉安天信息技术有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201510619074.8/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top