[发明专利]一种基于机器学习的网页代理发现方法在审
申请号: | 201710858063.4 | 申请日: | 2017-09-21 |
公开(公告)号: | CN107818132A | 公开(公告)日: | 2018-03-20 |
发明(设计)人: | 张鹏;陈志鹏;郭莉;刘庆云 | 申请(专利权)人: | 中国科学院信息工程研究所 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F21/56 |
代理公司: | 北京君尚知识产权代理事务所(普通合伙)11200 | 代理人: | 余长江 |
地址: | 100093 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于机器学习的网页代理发现方法,步骤包括通过爬虫主动获取代理及非代理的网页数据集;从所述网页数据集中分别抽取URL特征和DOM特征,根据该URL特征和/或DOM特征构建一含有多维特征的向量作为训练集;利用机器学习方法在所述训练集上构建模型并进行训练,通过训练出的模型进行网页代理识别。本发明基于爬虫捕获的URL和网页内容抽取特征,并构建模型进行训练,根据训练的模型识别出网页代理,识别的准确率、召回率及F1‑score高。 | ||
搜索关键词: | 一种 基于 机器 学习 网页 代理 发现 方法 | ||
【主权项】:
一种基于机器学习的网页代理发现方法,步骤包括:通过爬虫主动获取代理及非代理的网页数据集;从所述网页数据集中分别抽取URL特征和DOM特征,根据该URL特征和/或DOM特征构建一含有多维特征的向量作为训练集;利用机器学习方法在所述训练集上构建模型并进行训练,通过训练出的模型进行网页代理识别。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所,未经中国科学院信息工程研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710858063.4/,转载请声明来源钻瓜专利网。