[发明专利]一种面向中间值长度异构的编码MapReduce方法有效
申请号: | 202010446348.9 | 申请日: | 2020-05-25 |
公开(公告)号: | CN111490795B | 公开(公告)日: | 2021-09-24 |
发明(设计)人: | 唐斌;董亚美;叶保留;陆桑璐;陈琰;陈晓露;吴金龙;方晓蓉 | 申请(专利权)人: | 南京大学;国网上海市电力公司 |
主分类号: | H03M7/30 | 分类号: | H03M7/30 |
代理公司: | 南京泉为知识产权代理事务所(特殊普通合伙) 32408 | 代理人: | 许丹丹 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种面向中间值长度异构的编码MapReduce方法。所述方法基于不同Reduce函数间所需中间值的字节长度非全等但相同Reduce函数下所需的中间值字节长度相等的场景,通过对输入文件集进行冗余存储放置与Reduce函数的适当分配,并对中间值采用编码与多播相结合的方式,极大地压缩Shuffle阶段的数据传输量,避免不必要的通信开销,从而缩短整个MapReduce任务的执行时间。 | ||
搜索关键词: | 一种 面向 中间 长度 编码 mapreduce 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学;国网上海市电力公司,未经南京大学;国网上海市电力公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010446348.9/,转载请声明来源钻瓜专利网。