[发明专利]一种hadoop集群运行ETL流程的实时监控方法及装置有效
申请号: | 202010542701.3 | 申请日: | 2020-06-15 |
公开(公告)号: | CN111722981B | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 高东升;付铨;梅纲 | 申请(专利权)人: | 武汉达梦数据库有限公司 |
主分类号: | G06F11/30 | 分类号: | G06F11/30;G06F9/54;G06F16/25;G06F16/21 |
代理公司: | 深圳市六加知识产权代理有限公司 44372 | 代理人: | 向彬 |
地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及数据处理技术领域,具体涉及一种hadoop集群运行ETL流程的实时监控方法及装置,其中方法包括:ETL hadoop引擎启动时部署监控端RPC服务,以便各container访问,进而通知监控端流程运行状态、节点运行状态以及节点运行统计信息;container启动时部署container RPC服务并向监控端注册,以便监控端间隔访问container RPC服务,进而刷新container内部各节点的运行统计信息。通过在监控端和各container部署RPC服务,监控端和container之间可互相访问,从而准确掌握流程运行速度,有效解决分布式ETL框架中的流程监控和信息汇总的问题。 | ||
搜索关键词: | 一种 hadoop 集群 运行 etl 流程 实时 监控 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉达梦数据库有限公司,未经武汉达梦数据库有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010542701.3/,转载请声明来源钻瓜专利网。