[发明专利]一种基于流式数据处理架构的天文元数据归档方法及系统有效

专利信息
申请号: 201710371260.3 申请日: 2017-05-24
公开(公告)号: CN107317838B 公开(公告)日: 2020-11-17
发明(设计)人: 徐川;郭航;赵国锋;蔡宇;唐彬 申请(专利权)人: 重庆邮电大学
主分类号: H04L29/08 分类号: H04L29/08;H04L9/06
代理公司: 重庆市恒信知识产权代理有限公司 50102 代理人: 刘小红
地址: 400065 重*** 国省代码: 重庆;50
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明请求保护一种基于流式数据处理架构的天文元数据归档方法及系统,属天文数据处理领域。首先,在数据源部署Agent。Agent实时监控数据源,一旦有新的数据产生,Agent的监控模块会立即解析新的观测数据并生成相应的元数据;其次,Agent的数据采集模块会实时采集监控模块生成的元数据,并通过网络传输到指定元数据归档平台;而后归档平台的缓存模块会实时接收数据源过来的元数据,并将元数据写入分布式缓存队列中;最后归档平台的流式数据处理组件会实时从缓存队列中读取元数据,并处理成时空维度的关联子图写入到图形数据库中。通过实时元数据归档,可减少冗余数据占据的网络带宽,减少系统占用的物理缓存成本,同时保证观测数据的实时共享。
搜索关键词: 一种 基于 数据处理 架构 天文 数据 归档 方法 系统
【主权项】:
一种基于流式数据处理架构的天文元数据归档方法,其特征在于,包括以下步骤:101、在不同的数据源部署Agent代理,Agent实时监控数据源,一旦有新的原始观测数据产生,Agent的监控模块会立即解析新的原始观测数据并生成相应的元数据;102、Agent的数据采集模块会实时采集监控模块生成的元数据,并通过网络传输到指定元数据归档平台;元数据归档平台的缓存模块会实时接收数据源发送过来的元数据,并将元数据写入分布式缓存队列中;103、归档平台的流式数据处理组件实时从缓存队列中读取元数据,并处理成时空维度的关联子图写入到图形数据库中,完成天文元数据归档。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201710371260.3/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top