[发明专利]一种SparkSQL系统中的数据处理方法和装置在审
申请号: | 201611028735.0 | 申请日: | 2016-11-18 |
公开(公告)号: | CN106599062A | 公开(公告)日: | 2017-04-26 |
发明(设计)人: | 李远策;李振炜;白泉;王锋;武志刚 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京市隆安律师事务所11323 | 代理人: | 权鲜枝,何立春 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种SparkSQL系统中的数据处理方法和装置,其中方法包括为SparkSQL系统中的数据表的指定列建立索引;当接收到对数据表的查询请求时,判断该请求是否命中具有索引的列;如果命中,则使用命中的列的索引完成本次查询请求;如果未命中,则通过遍历所述查询请求对应的数据表完成本次查询请求。该技术方案通过为SparkSQL系统中数据表的指定列建立索引的方式显著提高了对SparkSQL系统中数据表的查询速度,在大数据场景下,如果查询请求命中具有索引的列,相比于利用SparkSQL提供的查询方式会有指数级的性能提升,对大数据查询具有极大意义。 | ||
搜索关键词: | 一种 sparksql 系统 中的 数据处理 方法 装置 | ||
【主权项】:
一种SparkSQL系统中的数据处理方法,其中,该方法包括:为SparkSQL系统中的数据表的指定列建立索引;当接收到对数据表的查询请求时,判断该请求是否命中具有索引的列;如果命中,则使用命中的列的索引完成本次查询请求;如果未命中,则通过遍历所述查询请求对应的数据表完成本次查询请求。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611028735.0/,转载请声明来源钻瓜专利网。