[发明专利]基于Hive的数据处理方法、装置、计算机设备及存储介质有效
申请号: | 201910747845.X | 申请日: | 2019-08-14 |
公开(公告)号: | CN110659281B | 公开(公告)日: | 2023-09-12 |
发明(设计)人: | 卢显锋 | 申请(专利权)人: | 中国平安财产保险股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23 |
代理公司: | 深圳市精英专利事务所 44242 | 代理人: | 林燕云 |
地址: | 518000 广东省深圳市福田区益田路*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明实施例公开了一种基于Hive的数据处理方法、装置、计算机设备及存储介质。本发明应用于数据处理中的数据更新领域。所述方法包括:若接收到数据更新指令,从所述数据更新指令中获取待更新数据表,并根据所述待更新数据表与原数据表进行全量关联,以建立第一临时转换表,其中,所述数据更新指令包括待更新数据表以及更新条件;根据所述第一临时转换表对所述原数据表进行更新以得到初始目标数据表;根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表;根据所述第二临时转换表对所述初始目标数据表进行更新以得到目标数据表。通过实施本发明实施例的方法可实现Hive的数据更新,减少了Hive同步更新的数据量。 | ||
搜索关键词: | 基于 hive 数据处理 方法 装置 计算机 设备 存储 介质 | ||
【主权项】:
1.一种基于Hive的数据处理方法,其特征在于,包括:/n若接收到数据更新指令,从所述数据更新指令中获取待更新数据表,并根据所述待更新数据表与原数据表进行全量关联,以建立第一临时转换表,其中,所述数据更新指令包括待更新数据表以及更新条件;/n根据所述第一临时转换表中来源于所述待更新数据表的预设主键与来源于所述原数据表的预设主键之间的对比对所述原数据表进行更新以得到初始目标数据表;/n根据所述更新条件对所述初始目标数据表进行筛选以建立第二临时转换表;/n根据所述第二临时转换表的预设主键与所述初始目标数据表的预设主键之间的对比对所述初始目标数据表进行更新以得到目标数据表。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910747845.X/,转载请声明来源钻瓜专利网。