[发明专利]一种基于流式数据处理架构的天文元数据归档方法及系统有效
申请号: | 201710371260.3 | 申请日: | 2017-05-24 |
公开(公告)号: | CN107317838B | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 徐川;郭航;赵国锋;蔡宇;唐彬 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L9/06 |
代理公司: | 重庆市恒信知识产权代理有限公司 50102 | 代理人: | 刘小红 |
地址: | 400065 重*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明请求保护一种基于流式数据处理架构的天文元数据归档方法及系统,属天文数据处理领域。首先,在数据源部署Agent。Agent实时监控数据源,一旦有新的数据产生,Agent的监控模块会立即解析新的观测数据并生成相应的元数据;其次,Agent的数据采集模块会实时采集监控模块生成的元数据,并通过网络传输到指定元数据归档平台;而后归档平台的缓存模块会实时接收数据源过来的元数据,并将元数据写入分布式缓存队列中;最后归档平台的流式数据处理组件会实时从缓存队列中读取元数据,并处理成时空维度的关联子图写入到图形数据库中。通过实时元数据归档,可减少冗余数据占据的网络带宽,减少系统占用的物理缓存成本,同时保证观测数据的实时共享。 | ||
搜索关键词: | 一种 基于 数据处理 架构 天文 数据 归档 方法 系统 | ||
【主权项】:
一种基于流式数据处理架构的天文元数据归档方法,其特征在于,包括以下步骤:101、在不同的数据源部署Agent代理,Agent实时监控数据源,一旦有新的原始观测数据产生,Agent的监控模块会立即解析新的原始观测数据并生成相应的元数据;102、Agent的数据采集模块会实时采集监控模块生成的元数据,并通过网络传输到指定元数据归档平台;元数据归档平台的缓存模块会实时接收数据源发送过来的元数据,并将元数据写入分布式缓存队列中;103、归档平台的流式数据处理组件实时从缓存队列中读取元数据,并处理成时空维度的关联子图写入到图形数据库中,完成天文元数据归档。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710371260.3/,转载请声明来源钻瓜专利网。