[发明专利]在Hive中连接运算的转化方法及装置有效
申请号: | 201710307560.5 | 申请日: | 2017-05-03 |
公开(公告)号: | CN107133320B | 公开(公告)日: | 2019-11-22 |
发明(设计)人: | 陶胜 | 申请(专利权)人: | 广州虎牙信息科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/28 |
代理公司: | 11330 北京市立方律师事务所 | 代理人: | 王增鑫<国际申请>=<国际公布>=<进入 |
地址: | 511442 广东省广州市番禺区南村镇万博二*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | hive 连接 运算 转化 方法 装置 | ||
1.一种在Hive中连接运算的转化方法,其特征在于,包括如下步骤:
在需要对第一表与第二表的连接运算进行转化时,判断所述连接运算的关联字段是否为其中一个表的主键字段;
当所述关联字段为其中一个表的主键字段时,对第一表和第二表的字段作联合所有运算得到联合所有运算结果,对联合所有运算结果中的预设字段作分析函数运算,得到对应的中间表字段记录;
依据第一表与第二表的连接运算类型及原连接运算的连接条件设定相应的查询条件,从所述中间表字段记录获取第一表与第二表的连接运算结果。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述关联字段同为两个表的主键字段时,对第一表和第二表的字段作联合所有运算得到联合所有运算结果,对联合所有运算结果中的预设字段作聚合函数运算,得到对应的中间表字段记录。
3.根据权利要求1所述的方法,其特征在于,所述连接运算类型包括内连接及外连接,所述外连接包括左外连接和右外连接。
4.根据权利要求1所述的方法,其特征在于,当所述关联字段为其中一表的主键字段且所述连接运算类型为内连接时,所述从已联合所有第一表与第二表的字段记录中对预设字段作分析函数运算,以获取对应的中间表字段记录的步骤,包括:
联合所有为第一表与第二表添加标志位字段后的所有字段记录,所述预设字段包括第二表的非主键字段及所述标志位字段;
根据连接条件选取预设的分析函数对第二表的非主键字段作分析函数运算得到第一字段记录、以及对所述标志位字段作分析函数运算得到第二字段记录;
输出包含第一字段记录和第二字段记录的中间表字段记录;
当所述关联字段为其中一个表的主键字段且所述连接运算类型为外连接时,定义左外连接的左表为主表及右表为副表,或右外连接的右表为主表及左表为副表,所述从已联合所有第一表与第二表的字段记录中对预设字段作分析函数运算以获取对应的中间表字段记录的步骤,包括:
联合所有为主表与副表添加标志位字段后的所有字段记录,所述预设字段包括副表的非主键字段;
根据连接条件选取预设的分析函数对副表的非主键字段作分析函数运算得到第三字段记录;
输出包含第三字段记录的中间表字段记录。
5.根据权利要求2所述的方法,其特征在于,当所述关联字段同为两个表的主键字段且所述连接运算类型为内连接时,所述从已联合所有第一表与第二表的字段记录中对预设字段作聚合函数运算以获取中间表字段记录的步骤,包括:
联合所有为第一表与第二表添加标志位字段后的所有字段记录,所述预设字段包括第一表与第二表的非主键字段;
根据所述关联字段对联合所有的结果记录进行分组;
对分组后的非主键字段作聚合函数运算得到对应的非主键字段记录;
输出包含所述对应的非主键字段记录的中间表字段记录;
当所述关联字段同为两个表的主键字段且所述连接运算类型为外连接时,定义左外连接的左表为主表及右表为副表、或右外连接的右表为主表及左表为副表,所述从已联合所有第一表与第二表的字段记录中对预设字段作聚合函数运算以获取对应的中间表字段记录的步骤,包括:
联合所有为主表与副表添加标志位字段后的所有字段记录,所述预设字段包括副表的非主键字段及所述标志位字段;
根据所述关联字段对联合所有的结果记录进行分组;
对分组后的副表的非主键字段作聚合函数运算得到第四字段记录及对标识为字段作聚合函数运算得到第五标志位字段记录;
输出包含第四字段记录及第五标志位字段记录的中间表字段记录。
6.根据权利要求4或5所述的方法,其特征在于,在联合所有第一表与第二表的字段记录时,对于存在于第一表而不存在于第二表、和存在于第二表而不存在于第一表的字段记录以Null表示。
7.根据权利要求4或5所述的方法,其特征在于,所述标志位字段用于表征字段记录的来源表。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州虎牙信息科技有限公司,未经广州虎牙信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710307560.5/1.html,转载请声明来源钻瓜专利网。