[发明专利]一种数据异常检测方法、系统及具有该系统的服务器有效
申请号: | 201710016096.4 | 申请日: | 2017-01-10 |
公开(公告)号: | CN106778904B | 公开(公告)日: | 2019-10-18 |
发明(设计)人: | 牛昕宇 | 申请(专利权)人: | 上海鲲云信息科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06F16/215 |
代理公司: | 上海光华专利事务所(普通合伙) 31219 | 代理人: | 徐秋平 |
地址: | 201203 上海市浦东新区中国(上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 异常 检测 方法 系统 具有 服务器 | ||
本发明提供一种数据异常检测方法,应用于电子设备,所述数据异常检测方法包括以下步骤:步骤一,基于预存的单阶支持向量机和已建立的运行数据模型,决策与运行数据模型对应的硬件结构的运行数据,以区分硬件结构的运行数据中的异常数据和正常数据;步骤二,对区分出的异常数据进行投票,以确定区分出的异常数据中是否存在将正常数据错误标记为异常数据,若是,将错误标记成异常数据的运行数据重新标记为正常数据。本发明可以达到与基于人工监督系统类似的准确度,大大高于经典异常检测的准确率,相较于基于人工监督的异常检测,应用本发明所提出的异常检测方法的服务器无需人为监督,大大降低了服务器的实用性。
技术领域
本发明属于机器学习技术领域,涉及一种检测方法及系统,特别是涉及一种数据异常检测方法、系统及具有该系统的服务器。
背景技术
异常检测是机器学习领域的一个重要研究方向。在金融、网络安全等领域,通过学习大量历史数据,异常检测算法能够区分正常数据与异常数据,从而对于异常问题进行预警。异常检测通常采用支持向量机方法来解决。请参阅图1,显示为现有异常检测算法的检测结果的平面示意图。如图1所示,异常检测算法将检测数据映射至多维空间中,并使用超平面分别正常数据与异常数据。基于支持向量机的异常检测的训练数据中的大部分为正常数据,通过训练建立超平面。检测中映射至超平面之外的数据点为异常数据,如图1所示。2014年暴露的心脏出血漏洞(heartbleed bug)暴露了现有异常检测的缺陷:尽管在检测已知数据模式方面非常有效,其无法检测未知的数据模式。
概念漂移是异常检测需要面对的第一个挑战。由于数据在测试过程中,其特性、模式时刻在发生改变,正确分类数据的超平面也做出对应改变。请参阅图2,显示为现有异常检测算法随时间的变化发送超平面变化的示意图。如图2所示,随着测试时间,超平面T时刻在发生改变。基于已知数据模式训练的检测差平面其在检测完成后固定不变,无法做出实时的改变。对着测试时实际超平面的改变,概念漂移会导致检测失误,无法检测已知问题。
因此,如何提供一种数据异常检测方法、系统及具有该系统的服务器,以解决现有异常检测技术无法做出实时改变,若在测试时出现实际超平面发生改变的情况时,会产生概念漂移,而导致检测失误等种种缺陷,实已成为本领域从业者亟待解决的技术问题。
发明内容
鉴于以上所述现有技术的缺点,本发明的目的在于提供一种数据异常检测方法、系统及具有该系统的服务器,用于解决现有异常检测技术无法做出实时改变,若在测试时出现实际超平面发生改变的情况时,会产生概念漂移,而导致检测失误的问题。
为实现上述目的及其他相关目的,本发明一方面提供一种数据异常检测方法,应用于电子设备,所述数据异常检测方法包括以下步骤:步骤一,基于预存的单阶支持向量机和已建立的运行数据模型,决策与运行数据模型对应的硬件结构的运行数据,以区分硬件结构的运行数据中的异常数据和正常数据;步骤二,对区分出的异常数据进行投票,以确定区分出的异常数据中是否存在将正常数据错误标记为异常数据,若是,将错误标记成异常数据的运行数据重新标记为正常数据。
于本发明的一实施例中,所述电子设备中硬件结构的运行数据包括运行数据的数据索引及运行数据的数据值。
于本发明的一实施例中,所述步骤一包括:使用运行数据的数据索引对其运行数据的数据值,及对应的运行数据模型的支持向量;读取已建立的运行数据模型的支持向量,根据所述单阶支持向量机中的决策函数的计算结果来决策与运行数据模型对应的硬件结构的运行数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海鲲云信息科技有限公司,未经上海鲲云信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710016096.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置