[发明专利]一种矢量要素并行计算方法、装置、存储介质及终端在审
申请号: | 202010276951.7 | 申请日: | 2020-04-09 |
公开(公告)号: | CN111563081A | 公开(公告)日: | 2020-08-21 |
发明(设计)人: | 郭琳;裴志远;许家俊;卫炜;石智峰;陈晓迪;王玉鑫;邢雪;张寅;赵春梅;刘宇航;李晓辰 | 申请(专利权)人: | 农业农村部规划设计研究院;北京中农信达信息技术有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/27;G06F16/29 |
代理公司: | 北京三聚阳光知识产权代理有限公司 11250 | 代理人: | 张琳琳 |
地址: | 100125 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 矢量 要素 并行 计算方法 装置 存储 介质 终端 | ||
1.一种矢量要素并行计算方法,其特征在于,包括:
根据Spark计算框架构建分布式要素数据集模型;
根据所述分布式要素数据集模型对外部数据进行数据读取;
根据读取后的数据进行数据重分区;
将四叉树索引和二叉树索引结合对重分区后的数据创建本地空间索引;
对创建本地空间索引后的数据进行数据处理和分析。
2.根据权利要求1所述的矢量要素并行计算方法,其特征在于,所述分布式要素数据集模型包括:特征要素和分布式数据集元信息。
3.根据权利要求1所述的矢量要素并行计算方法,其特征在于,所述外部数据的数据类型包括:JSON、CSV、Shapefile、HDFS、Elasticsearch、AVRO以及关系型空间数据库。
4.根据权利要求1所述的矢量要素并行计算方法,其特征在于,根据读取后的数据进行数据重分区,包括:
根据分区索引工具对读取后的数据进行重分区,所述索引工具包括HILBERT时空填充曲线索引、QuadTree四叉树索引和RTree二叉树索引。
5.根据权利要求1所述的矢量要素并行计算方法,其特征在于,将四叉树索引和二叉树索引结合对重分区后的数据创建本地空间索引,包括:
根据四叉树索引按照一定规则将重分区后的数据划分成多个子空间;
根据二叉树索引在子空间中创建本地空间索引。
6.根据权利要求1所述的矢量要素并行计算方法,其特征在于,对创建本地空间索引后的数据进行数据处理和分析,包括:
对创建本地空间索引后的数据进行过滤、获取地理和时间范围、裁剪、空间查询、属性汇总、网格聚合、多边形聚合、提取列、追加列计算。
7.一种矢量要素并行计算装置,其特征在于,包括:
模型构建模块,用于根据Spark计算框架构建分布式要素数据集模型;
数据读取模块,用于根据所述分布式要素数据集模型对外部数据进行数据读取;
分区模块,用于根据读取后的数据进行数据重分区;
本地索引创建模块,用于将四叉树索引和二叉树索引结合对重分区后的数据创建本地空间索引;
分析模块,用于对创建本地空间索引后的数据进行数据处理和分析。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使所述计算机执行如权利要求1-6任一项所述的矢量要素并行计算方法。
9.一种矢量要素并行计算终端,其特征在于,包括:存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行如权利要求1-6任一项所述的矢量要素并行计算方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于农业农村部规划设计研究院;北京中农信达信息技术有限公司,未经农业农村部规划设计研究院;北京中农信达信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010276951.7/1.html,转载请声明来源钻瓜专利网。