[发明专利]异常数据的检测方法、装置、设备及计算机可读存储介质有效
申请号: | 201811502408.3 | 申请日: | 2018-12-10 |
公开(公告)号: | CN109684118B | 公开(公告)日: | 2022-04-26 |
发明(设计)人: | 李冕正;朱红燕;莫林林;卢冠男 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F11/00 | 分类号: | G06F11/00;G06K9/62 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国;魏兰 |
地址: | 518052 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异常 数据 检测 方法 装置 设备 计算机 可读 存储 介质 | ||
本发明公开了一种异常数据的检测方法、装置、设备及计算机可读存储介质,该方法包括步骤:当侦测到检测待检测曲线目标时间点的数据是否为异常数据的检测指令后,根据检测指令获取目标时间点对应的第一样本数据和第二样本数据,获取目标时间点的数据的真实值;根据待检测曲线所属的曲线类型确定待检测曲线对应检测规则的各个检测特征,获取各个检测特征对应的特征权重;基于待检测曲线对应的拟合模型,根据第一样本数据、第二样本数据和真实值对应计算得到各个检测特征的结果值;若检测到结果值与对应特征权重之间乘积的和大于预设阈值,则确定目标时间点的数据为异常数据。本发明降低了异常数据检测的检测成本,提高了异常数据检测的准确率。
技术领域
本发明涉及数据检测技术领域,尤其涉及一种异常数据的检测方法、装置、设备及计算机可读存储介质。
背景技术
目前所用的异常数据检测方法是通过无监督算法提取曲线中的数据,将所提取的数据,结合人工对数据的标注结果,输入到有监督学习模型中进行训练,最后通过训练出的有监督学习模型进行数据异常检测,其中,人工对数据标注为人工为数据打上正常标签或者异常标签。
在采用有监督学习模型进行数据异常检测过程中,需要高质量的标签,而在运维领域,获取高质量的标签存在以下难题,第一,对为数据打标签的人员有较高要求,需要该人员具有与该数据相关的专业知识和丰富的经验,且在为数据打标签过程中还需要了解在产生该数据时发生的情况,检测成本高;第二,在实际的运维场景中,真正的异常数据样本数量很少,在正常数据样本和异常数据样本差别较大的情况下,基于有监督学习模型的异常数据检测算法所得的检测结果准确率低下,无法保证基于有监督学习模型的异常数据检测算法的可用性。
发明内容
本发明的主要目的在于提供一种异常数据的检测方法、装置、设备及计算机可读存储介质,旨在解决现有的采用有监督学习模型进行异常数据检测所得的检测结果准确率低下,且检测成本高的技术问题。
为实现上述目的,本发明提供一种异常数据的检测方法,所述异常数据的检测方法包括步骤:
当侦测到检测待检测曲线目标时间点的数据是否为异常数据的检测指令后,根据所述检测指令获取所述目标时间点对应的第一样本数据和第二样本数据,以及获取所述目标时间点的数据的真实值;
确定所述待检测曲线所属的曲线类型,并根据所述曲线类型确定所述待检测曲线对应检测规则的各个检测特征,以及获取各个检测特征对应的特征权重;
基于所述待检测曲线对应的拟合模型,根据所述第一样本数据、所述第二样本数据和所述真实值对应计算得到各个检测特征的结果值;
若检测到所述结果值与对应所述特征权重之间乘积的和大于预设阈值,则确定所述目标时间点的数据为异常数据。
优选地,所述基于所述待检测曲线对应的拟合模型,根据所述第一样本数据、所述第二样本数据和所述真实值对应计算得到各个检测特征的结果值的步骤包括:
删除所述第一样本数据和所述第二样本数据中的孤点数据,得到处理后的所述第一样本数据和所述第二样本数据;
根据处理后的所述第一样本数据和所述第二样本数据计算各个检测特征对应的差分值,并确定所述目标时间点的数据对应的预测值;
计算所述真实值与所述预测值之间的差值,并获取所述检测特征对应的检测系数;
计算所述检测系数与所述差分值之间的乘积,并将所述检测系数和所述差分值之间的乘积记为差分乘积;
若所述差值小于或者等于所述差分乘积,则确定所述检测特征对应的结果值为正常结果值;
若所述差值大于所述差分乘积,则确定所述检测特征对应的结果值为异常结果值。
优选地,删除所述第一样本数据中的孤点数据,得到处理后的所述第一样本数据的步骤包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811502408.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置