[发明专利]数据排序方法、装置、服务器和存储介质有效

专利信息
申请号: 201810450064.X 申请日: 2018-05-11
公开(公告)号: CN108733790B 公开(公告)日: 2021-07-02
发明(设计)人: 曾志华;仇贲 申请(专利权)人: 广州虎牙信息科技有限公司
主分类号: G06F16/26 分类号: G06F16/26;G06F40/18
代理公司: 北京品源专利代理有限公司 11332 代理人: 孟金喆
地址: 511400 广东省广州市番禺区南村镇万博二*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 排序 方法 装置 服务器 存储 介质
【说明书】:

发明实施例公开了一种数据排序方法、装置、服务器和存储介质。所述数据排序方法包括:根据数据排序指令中的数据属性,查找待排序数据,待排序数据包括数据属性和数值;根据与待排序数据的数值对应的标准化数值的排序结果,将待排序数据划分至两个或两个以上待排序数据分区,并确定与各待排序数据分区分别对应的分区维度标识和全数据位置信息;根据分区维度标识将待排序数据分区调用为一个待排序窗口分区,并通过待排序窗口分区和全数据位置信息确定待排序数据的排序结果。本发明实施例的技术方案实现了多窗口分区共同响应操作于Hive数据仓库的排序类窗口函数,提高了对Hive数据仓库中存储数据的排序速度。

技术领域

本发明实施例涉及数据处理技术领域,尤其涉及一种数据排序方法、装置、服务器和存储介质。

背景技术

Hive是基于Hadoop分布式文件系统的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行。其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

发明人在实现本发明的过程中,发现现有技术存在如下缺陷:在Hive上直接使用窗口函数进行数据排序时,不会配置多个窗口分区共同对数据进行排序,只会启动单个窗口分区做全数据排序。

发明内容

有鉴于此,本发明实施例提供了一种数据排序方法、装置、服务器和存储介质,以优化现有技术中使用窗口函数对Hive数据仓库中存储的数据进行排序的方法,提高了对Hive数据仓库存储数据进行排序的速度。

在第一方面,本发明实施例提供了一种数据排序方法,包括:

根据数据排序指令中的数据属性,查找待排序数据,其中,所述待排序数据包括所述数据属性和数值;

根据与所述待排序数据的数值对应的标准化数值的排序结果,将所述待排序数据划分至两个或两个以上待排序数据分区,并确定与各所述待排序数据分区分别对应的分区维度标识和全数据位置信息,其中,所述全数据位置信息用于指示所述待排序数据分区中的待排序数据在全部所述待排序数据中的位置;

根据所述分区维度标识将所述待排序数据分区调用为一个待排序窗口分区,并通过所述待排序窗口分区和所述全数据位置信息确定所述待排序数据的排序结果。

在第二方面,本发明实施例提供了一种数据排序装置,包括:

数据查找模块,用于根据数据排序指令中的数据属性,查找待排序数据,其中,所述待排序数据包括所述数据属性和数值;

数据分区模块,用于根据与所述待排序数据的数值对应的标准化数值的排序结果,将所述待排序数据划分至两个或两个以上待排序数据分区,并确定与各所述待排序数据分区分别对应的分区维度标识和全数据位置信息,其中,所述全数据位置信息用于指示所述待排序数据分区中的待排序数据在全部所述待排序数据中的位置;

数据排序模块,用于根据所述分区维度标识将所述待排序数据分区调用为一个待排序窗口分区,并通过所述待排序窗口分区和所述全数据位置信息确定所述待排序数据的排序结果。

在第三方面,本发明实施例提供了一种服务器,所述服务器包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序;

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现本发明实施例所述的数据排序方法。

在第四方面,本发明实施例提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行本发明实施例所述的数据排序方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州虎牙信息科技有限公司,未经广州虎牙信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810450064.X/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top