[发明专利]数据处理方法及装置、电子设备、计算机可读介质有效
申请号: | 202010093525.X | 申请日: | 2020-02-14 |
公开(公告)号: | CN111325260B | 公开(公告)日: | 2023-10-27 |
发明(设计)人: | 苏业;冷家冰;管超;任思可;黄锋;李旭 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F18/2411 | 分类号: | G06F18/2411;G06F18/214 |
代理公司: | 北京天昊联合知识产权代理有限公司 11112 | 代理人: | 彭瑞欣;刘悦晗 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 计算机 可读 介质 | ||
1.一种数据处理方法,包括:
获取数据检测请求,所述数据检测请求包括多个已标注数据;
针对每个已标注数据,利用预先训练好的至少一个异常检测分类器,对该已标注数据进行预测,得到每个异常检测分类器对该已标注数据的预测结果,该已标注数据的预测结果包括用于确定该已标注数据是否为离群数据的信息;
根据至少一个异常检测分类器对该已标注数据的预测结果,确定该已标注数据是否为离群数据。
2.根据权利要求1所述的数据处理方法,其中所述针对每个已标注数据,利用预先训练好的至少一个异常检测分类器,对该已标注数据进行预测,得到每个异常检测分类器对该已标注数据的预测结果之前,还包括:
针对每个已标注数据,利用至少一个预设的特征提取算法对该已标注数据进行特征提取,得到该已标注数据对应的特征向量;
将各所述已标注数据分别对应的特征向量作为输入变量,利用至少一个预设的异常检测算法进行无监督的模型训练,得到每个异常检测算法对应的所述异常检测分类器,所述异常检测分类器的输出变量为用于确定所述已标注数据是否为离群数据的变量。
3.根据权利要求2所述的数据处理方法,其中所述针对每个已标注数据,利用至少一个预设的特征提取算法对该已标注数据进行特征提取,得到该已标注数据对应的特征向量,包括:
针对每个已标注数据,利用预设的一个特征提取算法对该已标注数据进行特征提取,得到该已标注数据对应的特征向量。
4.根据权利要求2所述的数据处理方法,其中所述针对每个已标注数据,利用至少一个预设的特征提取算法对该已标注数据进行特征提取,得到该已标注数据对应的特征向量,包括:
针对每个已标注数据,利用预设的多个特征提取算法分别对该已标注数据进行特征提取,得到该已标注数据对应的基于每个特征提取算法提取出的特征提取结果;
根据该已标注数据对应的多个特征提取结果,生成该已标注数据对应的所述特征向量。
5.根据权利要求1所述的数据处理方法,其中在利用预先训练好的一个异常检测分类器对该已标注数据进行预测的情形下,
所述根据至少一个异常检测分类器对该已标注数据的预测结果,确定该已标注数据是否为离群数据,包括:
当该异常检测分类器对该已标注数据的预测结果包括用于确定该已标注数据为离群数据的信息时,则确定该已标注数据为离群数据;
当该异常检测分类器对该已标注数据的预测结果包括用于确定该已标注数据为非离群数据的信息时,则确定该已标注数据为非离群数据。
6.根据权利要求1所述的数据处理方法,其中在利用预先训练好的多个异常检测分类器对该已标注数据进行预测的情形下,
所述根据至少一个异常检测分类器对该已标注数据的预测结果,确定该已标注数据是否为离群数据,包括:
根据多个异常检测分类器分别对该已标注数据进行预测的预测结果,基于预设的投票决策机制,确定该已标注数据是否为离群数据。
7.根据权利要求6所述的数据处理方法,其中所述根据多个异常检测分类器分别对该已标注数据进行预测的预测结果,基于预设的投票决策机制,确定该已标注数据是否为离群数据,包括:
统计多个异常检测分类器对该已标注数据进行预测的预测结果中,用于确定该已标注数据为离群数据的信息的数量;
判断该数量与所述预测结果的总数量的比值是否大于或等于预设阈值;
当判断出该数量与所述预测结果的总数量的比值大于或等于预设阈值时,则确定出该已标注数据为离群数据。
8.根据权利要求2所述的数据处理方法,其中至少一个预设的特征提取算法包括:Flatten特征提取算法、颜色矩特征提取算法、方向梯度直方图特征提取算法、局部二值模式特征提取算法、SIFT特征提取算法。
9.根据权利要求2所述的数据处理方法,其中至少一个预设的异常检测算法包括:ABOD、独立森林、HBOS、KNN、PCA、MCD。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010093525.X/1.html,转载请声明来源钻瓜专利网。