[发明专利]一种用于NIFI任务的分布式监控系统及方法有效
| 申请号： | 201910874660.5 | 申请日： | 2019-09-17 |
| 公开（公告）号： | CN110569174B | 公开（公告）日： | 2023-05-12 |
| 发明（设计）人： | 陈绪申;程林;杨培强 | 申请（专利权）人： | 浪潮软件科技有限公司 |
| 主分类号： | G06F11/30 | 分类号： | G06F11/30;G06F11/32;G06F11/34 |
| 代理公司： | 济南信达专利事务所有限公司 37100 | 代理人： | 孙园园 |
| 地址： | 250000 山东省济*** | 国省代码： | 山东;37 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种用于NIFI任务的分布式监控系统及方法，属于任务监控领域，要解决的技术问题为如何对NIFI从任务和步骤两个方面进行日志统计及监控。系统包括：kafka分布式集群；关系型数据库，所述关系型数据库内配置有日志表；日志处理器，所述日志处理器为一种组件，包括任务日志处理器和步骤日志处理器；监控平台，所述监控平台用于读取日志表并通过监控界面展示日志表。方法包括：构建一种用于NIFI任务的分布式监控系统，并基于NIFI任务链配置日志处理器；通过日志处理器从任务和步骤两个方面对NIFI任务进行日志统计；通过监控界面展示分别展示所述任务日志表和步骤日志表以监控任务和步骤。 | ||
| 搜索关键词： | 一种 用于 nifi 任务 分布式 监控 系统 方法 | ||
【主权项】：
1.一种用于NIFI任务的分布式监控系统，其特征在于用于从任务和步骤两个方面对NIFI任务进行日志统计和监控，所述分布式监控系统包括：/nkafka分布式集群；/n关系型数据库，所述关系型数据库内配置有日志表，所述日志表包括任务日志表和步骤日志表；/n日志处理器，所述日志处理器为日志组件，包括任务日志处理器和步骤日志处理器；所述任务日志处理器用于实时统计任务数据并定时将任务数据以及与任务对应的任务元数据存储至任务日志表，并用于将处理失败任务的流文件内容存储至kafka分布式集群；所述步骤日志处理器用于实时统计NIFI任务链路中每个中间处理器执行任务对应的步骤数据，并将步骤数据以及与所述任务对应的任务元数据存储至步骤日志表；/n监控平台，所述监控平台用于读取日志表并通过监控界面展示日志表；/n所述任务数据包括任务总数据量、任务成功总数据量以及任务失败数据量，所述任务总数据量为任务对应的所有流文件数据量，所述任务成功总数据量为NIFI任务链中所有处理器整体处理成功的数据量，任务失败数据量为NIFI任务链中尾节点处理器处理失败的数据量；/n所述步骤数据包括步骤成功数据量和步骤失败数据量，步骤成功数据量为所述中间处理器处理成功的数据量，步骤失败数据量为所述中间处理器处理失败的数据量；/n所述中间处理器为NIFI任务链中除首节点处理器和尾节点处理器之外的每个处理器。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于浪潮软件科技有限公司，未经浪潮软件科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910874660.5/，转载请声明来源钻瓜专利网。
