[发明专利]基于混合数据库架构的全球Argo数据存储与更新方法在审
申请号: | 201610230748.X | 申请日: | 2016-04-13 |
公开(公告)号: | CN105930381A | 公开(公告)日: | 2016-09-07 |
发明(设计)人: | 曹敏杰;许建平;刘增宏;孙朝辉;吴晓芬;卢少磊 | 申请(专利权)人: | 国家海洋局第二海洋研究所 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 张法高 |
地址: | 310000 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于混合数据库架构的全球Argo数据存储与更新方法,步骤如下:1)数据监听器监听指定目录,则将新的Argo数据文件转发到数据服务器;2)数据分类器将汇总在数据服务器上的Argo数据文件按照文件格式分为三个类别;3)数据控制器检查数据库中是否存在当前数据,并检查数据文件内容是否完整;4)数据提取器从数据文件中提取相关的元数据和数据块;5)数据入库模块将非结构化的数据块上传到HDFS分布式存储系统;6)数据归档模块将入库完成的数据进行归档,形成日志文件。本发明基于混合数据库架构,将全球Argo数据中不同类型的数据文件统一到同一个数据库平台中进行存储与更新,为全球Argo数据提供了高效的、可灵活扩展的存储与更新解决方案。 | ||
搜索关键词: | 基于 混合 数据库 架构 全球 argo 数据 存储 更新 方法 | ||
【主权项】:
一种基于混合数据库架构的全球Argo数据存储与更新方法,其特征在于它的步骤如下:1)数据监听器在远程数据主机上监听指定目录,一旦有新的Argo数据文件生成,则将数据文件转发到数据服务器;2)数据分类器将汇总在数据服务器上的Argo数据文件按照文件格式分为全球Argo浮标元数据、全球Argo浮标观测剖面数据和全球Argo网格化数据产品三个类别;3)数据控制器检查数据库中是否存在当前数据,并检查数据文件内容是否完整;4)数据提取器从数据文件中提取相关的元数据和数据块;5)数据入库模块将非结构化的数据块上传到HDFS分布式存储系统,将结构化的元数据记录到PostgreSQL关系型数据库中,并建立数据块与元数据之间的索引;6)数据归档模块将入库完成的数据进行归档,形成日志文件。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国家海洋局第二海洋研究所,未经国家海洋局第二海洋研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610230748.X/,转载请声明来源钻瓜专利网。