[发明专利]异常访问数据的检测方法和装置在审
申请号: | 201910043579.2 | 申请日: | 2019-01-17 |
公开(公告)号: | CN111444931A | 公开(公告)日: | 2020-07-24 |
发明(设计)人: | 文宏雕;杨立军 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;张效荣 |
地址: | 100086 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 异常 访问 数据 检测 方法 装置 | ||
1.一种异常访问数据的检测方法,其特征在于,包括:
根据预先建立的初始训练集对异常访问数据检测模型进行训练;
在该训练结束之后,利用异常访问数据检测模型确定预先建立的初始验证集中访问数据的异常概率;其中,初始验证集中包含预先标注的异常访问数据和未标注访问数据;
将初始验证集中异常概率和准确率符合预设判别条件的多个访问数据标注为异常访问数据,加入初始训练集;根据当前训练集对该异常访问数据检测模型进行训练;其中,所述准确率为该多个访问数据中预先标注的异常访问数据的比例;以及
将待检测访问数据输入训练完成的异常访问数据检测模型,根据输出结果判断所述待检测访问数据是否为异常访问数据。
2.根据权利要求1所述的方法,其特征在于,所述方法进一步包括:
在将该多个访问数据加入初始训练集之后,将该多个访问数据从初始验证集中去除;对异常访问数据检测模型进行至少一次迭代训练;其中,在任一次迭代训练中:
根据当前训练集对异常访问数据检测模型进行训练;在该训练结束之后,利用异常访问数据检测模型确定当前验证集中访问数据的异常概率;
将该当前验证集中异常概率和准确率符合所述判别条件的多个访问数据标注为异常访问数据,加入当前训练集,形成下一次迭代训练的训练集;将该多个访问数据从该当前验证集中去除,形成下一次迭代训练的验证集。
3.根据权利要求2所述的方法,其特征在于,在任一次迭代训练中,所述判别条件包括:
按照访问数据的异常概率降序,以预设的初始数量和递增数量分n次从当前验证集中有放回地选取访问数据;其中,n为正整数;
将n次选取中准确率最高的选取确定为最优选取,并将最优选取的访问数据标注为异常访问数据。
4.根据权利要求3所述的方法,其特征在于,在任一次迭代训练中,所述判别条件进一步包括:最优选取的访问数据的准确率不小于预设阈值;以及,所述方法进一步包括:
在任一次迭代训练中,如果当前验证集中访问数据的异常概率和准确率不符合所述判别条件,则停止迭代训练。
5.根据权利要求1-4任一所述的方法,其特征在于,
初始训练集中包含:预先标注的异常访问数据以及利用预先建立的无监督学习模型从未标注访问数据中确定的正常访问数据,初始训练集与初始验证集互斥;以及
所述异常访问数据检测模型为梯度迭代决策树GBDT模型和逻辑回归LR模型;其中,在任一次迭代训练中,GBDT模型的叶子节点进行独热编码后,作为LR模型的输入数据。
6.一种异常访问数据的检测装置,其特征在于,包括:
初始训练单元,用于根据预先建立的初始训练集对异常访问数据检测模型进行训练;
概率确定单元,用于:在该训练结束之后,利用异常访问数据检测模型确定预先建立的初始验证集中访问数据的异常概率;其中,初始验证集中包含预先标注的异常访问数据和未标注访问数据;
主动学习单元,用于将初始验证集中异常概率和准确率符合预设判别条件的多个访问数据标注为异常访问数据,加入初始训练集;根据当前训练集对该异常访问数据检测模型进行训练;其中,所述准确率为该多个访问数据中预先标注的异常访问数据的比例;以及
异常检测单元,用于将待检测访问数据输入训练完成的异常访问数据检测模型,根据输出结果判断所述待检测访问数据是否为异常访问数据。
7.根据权利要求6所述的装置,其特征在于,所述装置进一步包括:
迭代训练单元,用于:在将该多个访问数据加入初始训练集之后,将该多个访问数据从初始验证集中去除;对异常访问数据检测模型进行至少一次迭代训练;其中,在任一次迭代训练中:根据当前训练集对异常访问数据检测模型进行训练;在该训练结束之后,利用异常访问数据检测模型确定当前验证集中访问数据的异常概率;将该当前验证集中异常概率和准确率符合所述判别条件的多个访问数据标注为异常访问数据,加入当前训练集,形成下一次迭代训练的训练集;将该多个访问数据从该当前验证集中去除,形成下一次迭代训练的验证集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910043579.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置