[发明专利]一种Hive数据处理的方法及装置在审
申请号: | 201510998497.5 | 申请日: | 2015-12-25 |
公开(公告)号: | CN105426545A | 公开(公告)日: | 2016-03-23 |
发明(设计)人: | 宗栋瑞;郭美思 | 申请(专利权)人: | 浪潮集团有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 姜明 |
地址: | 250100 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 hive 数据处理 方法 装置 | ||
1.一种Hive数据处理的方法,其特征在于,包括:
获取数据请求消息;所述数据请求消息中携带有目标数据的排序相关信息;
根据所述数据请求消息通过Hive获取目标数据;
根据所述数据请求消息从Hive中确定出目标排序函数,并根据所述目标排序函数对所述目标数据进行排序;所述排序函数中记录有对数据进行排序的排序规则;
通过Hive输出排序后的目标数据。
2.根据权利要求1所述的方法,其特征在于,在所述根据所述数据请求消息在Hive中确定出目标排序函数之前,还包括:
接收至少一个排序函数;
利用addfile命令加载所述至少一个排序函数至Hive中。
3.根据权利要求1所述的方法,其特征在于,所述根据所述数据请求消息通过Hive获取目标数据包括:
根据所述数据请求消息通过Hive利用loaddata命令获取所述目标数据。
4.根据权利要求1-3任一项所述的方法,其特征在于,
所述排序规则为对目标数据中的每个关键字key值对应的不同数值value进行预设顺序的排序。
5.一种Hive数据处理的装置,其特征在于,包括:
获取单元,用于获取数据请求消息;所述数据请求消息中携带有目标数据的排序相关信息;
所述获取单元,还用于根据所述数据请求消息通过Hive获取目标数据;
处理单元,用于根据所述获取单元获取的所述数据请求消息从Hive中确定出目标排序函数,并根据所述目标排序函数对所述目标数据进行排序;所述排序函数中记录有对数据进行排序的排序规则;
输出单元,用于通过Hive输出排序后的目标数据。
6.根据权利要求5所述的装置,其特征在于,还包括:
接收单元,用于接收至少一个排序函数;
所述处理单元,还用于利用addfile命令加载所述至少一个排序函数至Hive中。
7.根据权利要求5所述的装置,其特征在于,
获取单元,具体用于根据所述数据请求消息通过Hive利用loaddata命令获取所述目标数据。
8.根据权利要求5-7任一项所述的装置,其特征在于,
所述排序规则为对目标数据中的每个key值对应的不同value值进行预设顺序的排序。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮集团有限公司,未经浪潮集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510998497.5/1.html,转载请声明来源钻瓜专利网。