[发明专利]一种大数据集群的故障检测方法和装置

说明书

本发明公开了一种大数据集群的故障检测方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：采集大数据集群的指标数据和日志数据；根据所述指标数据和日志数据确定异常信息及其对应的处理方案；对所述异常信息及其对应的处理方案进行机器学习，将学习结果存储到运维库中；基于所述运维库中的学习结果对所述大数据集群进行故障检测。该实施方式能够解决故障根源检测难和运维成本高的技术问题。

技术领域

本发明涉及计算机技术领域，尤其涉及一种大数据集群的故障检测方法和装置。

背景技术

随着业务的发展，大数据集群的运行管理，呈现出以下痛点：

(1)“慢”：业务运行环境越来越复杂，故障检测慢，各种业务系统、大数据系统越来越多，系统对IT资源的依赖性高，系统一旦出现任何问题，需要逐个排除，故障检测难。

(2)“繁”：运维工作繁重，缺少自动化工具和手段，运维人员每天面临大量的重复性、手工性的故障排查工作，耗时耗力，容易出错，效率低。

(3)“乱”：运维工作没有流程化、规范化、电子化，日常大数据运维工作流程混乱，没有标准流程、造成工作效率低下，同时应用抱怨，投诉不减。

(4)“难以把控”：信息化建设投入巨大，难以展现效果。运维人员天天疲于奔命，工作量如何度量，质量无法把控！

目前对于大数据相关集群的故障检测技术较为匮乏，对于集群负载情况监控、日志排查、故障分析、故障排除等信息无法直观体现，且企业级数据仓库中，大数据相关的集群数量众多，集群规模巨大，管理非常复杂，没有统一的运行管理界面，往往顾此失彼。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：

现有的大数据集群的故障检测主要是依赖人工方式，以专家法进行手动运维，或者是针对操作系统层面的如CPU、内存、硬盘、网络等基础资源进行基础监控。

现有的大数据集群的故障检测只能针对单个集群进行管理，且多是对单台的操作系统的底层指标进行监控，存在着以下的缺点：

无法对多个大数据集群进行统一监控管理及快速查询，无法满足企业统一化管理需求；

存在数据分析的困难：查询难、分析难、比对难；

故障检测：人员利用率低、故障根源检测难；

运维成本：成本高、效率低，业务投诉多、系统风险高。

发明内容

有鉴于此，本发明实施例提供一种大数据集群的故障检测方法和装置，以解决故障根源检测难和运维成本高的技术问题。

为实现上述目的，根据本发明实施例的一个方面，提供了一种大数据集群的故障检测方法，包括：

采集大数据集群的指标数据和日志数据；

根据所述指标数据和日志数据确定异常信息及其对应的处理方案；

对所述异常信息及其对应的处理方案进行机器学习，将学习结果存储到运维库中；

基于所述运维库中的学习结果对所述大数据集群进行故障检测。

可选地，所述指标数据包括操作系统进程、单台服务器、分布式服务和分布式集群的指标数据。

可选地，所述单台服务器的指标数据包括：主机名配置检查、NTP偏移量检查、平均负载、主机磁盘读写效率、CPU使用率、主机文件句柄使用率、主机网络状态及负载、HA状态检查、关键目录检查、内存使用率、硬件状态检查、SWAP使用率、主机状态检查、告警信息、错误信息。

可选地，所述操作系统进程的指标数据包括：大数据进程存活状态、多线程信息、进程拥塞情况、堆栈使用情况。