[发明专利]海量多源气象观测数据分布式存储方法及装置在审
申请号: | 201811020256.3 | 申请日: | 2018-09-03 |
公开(公告)号: | CN109344156A | 公开(公告)日: | 2019-02-15 |
发明(设计)人: | 刘哲;姚远;胡鑫磊;刘玮;熊全;刘帝佑;张琳 | 申请(专利权)人: | 中国农业大学 |
主分类号: | G06F16/22 | 分类号: | G06F16/22 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100193 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 气象观测数据 分布式存储 多源 格网 存储 多节点存储 分布式框架 带宽限制 访问效率 目标区域 气象信息 表访问 元信息 预设 吞吐量 并行 自动化 写入 站点 计算机 | ||
1.一种海量多源气象观测数据分布式存储方法,其特征在于,包括:
在获取到的目标区域内的每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据,其中,所述目标区域被划分成若干个子区域,一个子区域为一个格网,每个格网的编号为格网编码,一个格网内包含若干个观测站点,每一观测站点对应一个格网编码,每一观测站点采集到的每一气象观测数据对应一个格网编码;
将所有的经过格式重组后的气象观测数据存储到预设HBase表中。
2.根据权利要求1所述的方法,其特征在于,所述在获取到的目标区域内的每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据,具体包括:
获取所述目标区域内的若干个来源不同的气象观测数据;
针对任一气象观测数据,根据所述气象观测数据对应的观测站点的位置信息,获取所述气象观测数据对应的格网编码;
在每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据。
3.根据权利要求1所述的方法,其特征在于,所述将所有的经过格式重组后的气象观测数据存储到预设HBase表中,具体包括:
将所有的经过格式重组后的气象观测数据存储到Hadoop分布式文件系统中;
利用MapReduce编程模型,将所有的经过格式重组后的气象观测数据导入到所述预设HBase表中。
4.根据权利要求1所述的方法,其特征在于,所述预设HBase表的行键至少包括气象观测数据对应的格网编码和气象观测数据对应的观测时间中的任一种。
5.根据权利要求1所述的方法,其特征在于,所述预设HBase表的列族至少包括日观测数据列族、时观测数据列族和观测站点列族中的任一种。
6.根据权利要求1所述的方法,其特征在于,所述在获取到的目标区域内的每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据之前,还包括:
删除获取到的所述目标区域内的存在信息缺失的气象观测数据。
7.一种海量多源气象观测数据分布式存储装置,其特征在于,包括:
重组模块,用于在获取到的目标区域内的每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据,其中,所述目标区域被划分成若干个子区域,一个子区域为一个格网,每个格网的编号为格网编码,一个格网内包含若干个观测站点,每一观测站点对应一个格网编码,每一观测站点采集到的每一气象观测数据对应一个格网编码;
存储模块,用于将所有的经过格式重组后的气象观测数据存储到预设HBase表中。
8.根据权利要求7所述的装置,其特征在于,所述在获取到的目标区域内的每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据,具体包括:
获取所述目标区域内的若干个来源不同的气象观测数据;
针对任一气象观测数据,根据所述气象观测数据对应的观测站点的位置信息,获取所述气象观测数据对应的格网编码;
在每一气象观测数据的格式中添加对应的格网编码,获取格式重组后的气象观测数据。
9.一种电子设备,其特征在于,包括:
存储器和处理器,所述处理器和所述存储器通过总线完成相互间的通信;所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如权利要求1至6任一所述的方法。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国农业大学,未经中国农业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811020256.3/1.html,转载请声明来源钻瓜专利网。