[发明专利]一种数据的过滤方法、装置、电子设备及存储介质在审
申请号: | 201811386470.0 | 申请日: | 2018-11-20 |
公开(公告)号: | CN109558547A | 公开(公告)日: | 2019-04-02 |
发明(设计)人: | 张志远;王生玉;王雪松;石志中;张俊杰 | 申请(专利权)人: | 北京锐安科技有限公司;青海省公安厅 |
主分类号: | G06F16/9537 | 分类号: | G06F16/9537;G06F16/955 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100044 北京市海淀区西小口*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 过滤 存储介质 电子设备 准确率 处理数据 机器学习 引擎 | ||
1.一种数据的过滤方法,其特征在于,所述方法包括:
获取待过滤的数据;
利用预先训练好的过滤模型对所述数据进行过滤。
2.根据权利要求1所述的方法,其特征在于,利用预先训练好的过滤模型对所述数据进行过滤,包括:
利用预先训练好的过滤模型确定所述待过滤数据是无效信息或有效信息;
如果是无效信息,则利用预设过滤规则确定所述待过滤数据是无效信息或有效消息;
当利用预设过滤规则确定所述待过滤数据是无效信息时,将所述待过滤数据存入无效信息数据库。
3.根据权利要求1所述的方法,其特征在于,所述数据是HTTP协议数据,所述过滤模型训练的样本数据包括预设数量的URL数据,其中,属于同一URL数据的数量是均匀的。
4.根据权利要求3所述的方法,其特征在于,所述过滤模型的训练过程,包括:
基于所述样本数据训练过滤模型;
计算所述过滤模型的效果评价参数,其中,所述效果评价参数包括:准确率、错检率和/或召回率;
直至所述效果评价参数满足预设阈值,则所述过滤模型训练完成。
5.根据权利要求4所述的方法,其特征在于,计算所述过滤模型的效果评价参数,包括:对所述过滤模型采用交叉验证的方式计算效果评价参数。
6.根据权利要求1所述的方法,其特征在于,利用预先训练好的过滤模型对所述数据进行过滤之后,所述方法还包括:
根据对所述数据的过滤结果对所述过滤模型进行优化。
7.一种数据的过滤装置,其特征在于,包括:
数据获取模块,用于获取待过滤的数据;
数据过滤模块,用于利用预先训练好的过滤模型对所述数据进行过滤。
8.根据权利要求7所述的装置,其特征在于,所述数据过滤模块,具体用于:
信息初始确定模块,用于利用预先训练好的过滤模型确定所述待过滤数据是无效信息或有效信息;
无效信息确认模块,用于如果是无效信息,则利用预设过滤规则确定所述待过滤数据是无效信息或有效消息;
无效数据存储模块,用于当利用预设过滤规则确定所述待过滤数据是无效信息时,将所述待过滤数据存入无效信息数据库。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的一种数据的过滤方法。
10.一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-6中任一所述的一种数据的过滤方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京锐安科技有限公司;青海省公安厅,未经北京锐安科技有限公司;青海省公安厅许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811386470.0/1.html,转载请声明来源钻瓜专利网。