[发明专利]支持快速查询Map-Reduce输出结果的分桶方法、装置及设备在审
申请号: | 201510580544.4 | 申请日: | 2015-09-11 |
公开(公告)号: | CN105095515A | 公开(公告)日: | 2015-11-25 |
发明(设计)人: | 潘洪安 | 申请(专利权)人: | 北京金山安全软件有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 张大威 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 支持 快速 查询 map reduce 输出 结果 方法 装置 设备 | ||
1.一种支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,包括:
获取Reduce任务的数量,并根据所述数量确定对应的哈希策略;
根据所述哈希策略对Map任务中的Key进行哈希计算生成第一整数标识;
将所述第一整数标识作为Reduce任务的标识,并根据所述Reduce任务的标识分配对应的Reduce任务进行处理。
2.如权利要求1所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述方法还包括:
对所述Map任务参数进行设置,将所述第一整数标识设置为键值。
3.如权利要求2所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述将所述第一整数标识作为Reduce任务的标识包括:
读取所述Map任务的键值,将所述键值作为Reduce任务的标识。
4.如权利要求2所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述方法还包括:
用所述第一整数标识命名所述Reduce任务进行处理之后的输出文件。
5.如权利要求2所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述方法还包括:
用户端根据所述哈希策略对预设的Key进行哈希计算以生成第二整数标识,从所述Reduce任务进行处理之后的输出文件中查询所述第二整数标识对应的结果数据。
6.如权利要求5所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述第一整数标识和第二整数标识相等。
7.如权利要求5所述的支持快速查询Map-Reduce输出结果的分桶方法,其特征在于,所述Reduce任务的数量为N,所述第一整数标识和第二整数标识大于或等于零且小于N。
8.一种支持快速查询Map-Reduce输出结果的分桶装置,其特征在于,包括:
确定模块,用于获取Reduce任务的数量,根据所述数量确定对应的哈希策略;
生成模块,用于根据所述哈希策略对Map任务中的Key进行哈希计算生成第一整数标识;
分配模块,用于将所述第一整数标识作为Reduce任务的标识,并根据所述Reduce任务的标识分配对应的Reduce任务进行处理。
9.如权利要求8所述的支持快速查询Map-Reduce输出结果的分桶装置,其特征在于,所述装置还包括:
设置模块,用于对所述Map任务参数进行设置,将所述第一整数标识设置为键值。
10.一种设备,其特征在于,包括外壳、屏幕、处理器和电路板,其中,
所述屏幕安置在所述外壳上,所述电路板安置在所述外壳围成的空间内部,所述处理器设置在所述电路板上;
所述处理器用于处理数据,并具体用于:
获取Reduce任务的数量,并根据所述数量确定对应的哈希策略;
根据所述哈希策略对Map任务中的Key进行哈希计算,生成第一整数标识;
将所述第一整数标识作为Reduce任务的标识,并根据所述Reduce任务的标识分配对应的Reduce任务进行处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山安全软件有限公司,未经北京金山安全软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510580544.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据转换方法及装置
- 下一篇:一种检测异常数据区间的数据挖掘方法及系统