[发明专利]一种面向Spark-Sql检索的元数据实时更新方法有效
| 申请号： | 201710422553.X | 申请日： | 2017-06-07 |
| 公开（公告）号： | CN107391555B | 公开（公告）日： | 2020-08-04 |
| 发明（设计）人： | 李斌斌;王树鹏;王振宇;张磊 | 申请（专利权）人： | 中国科学院信息工程研究所 |
| 主分类号： | G06F16/27 | 分类号： | G06F16/27;G06F16/2455;G06F16/23 |
| 代理公司： | 北京君尚知识产权代理有限公司 11200 | 代理人： | 邱晓锋 |
| 地址： | 100093 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种面向Spark‑Sql检索的元数据实时更新方法。该方法在Spark Sql进行检索时，会将使用的元数据进行缓存，将被检索的数据块文件元数据以集合的形式缓存于内存中；当获得文件元数据的增量信息时，将首先检查该增量信息所属的表的检索元数据是否存在于缓存之中，若存在，则将增量的文件元数据增加至缓存的该表文件元数据的集合之中，由此完成Spark Sql检索元数据的增量更新。本发明还提出了对Spark Sql检索元数据增加情况的处理方法，可以实时的对检索元数据的增加情况进行处理，提高检索结果的实时性。本发明可以避免对检索元数据进行经常性的全量更新，以减少更新元数据时的时间和资源开销。 | ||
| 搜索关键词： | 一种 面向 spark sql 检索 数据 实时 更新 方法 | ||
【主权项】：
一种面向Spark Sql检索的元数据实时更新方法，其特征在于，包括以下步骤：1)在Spark Sql进行检索时，将被检索的数据块的文件元数据以集合的形式进行缓存；2)当获得文件元数据的增量信息时，检查该增量信息所属的表的文件元数据是否存在于缓存之中，若存在，则将增量信息中的文件元数据增加至缓存的文件元数据的集合之中，从而完成Spark Sql检索的文件元数据的增量更新。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所，未经中国科学院信息工程研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710422553.X/，转载请声明来源钻瓜专利网。
