[发明专利]网络爬虫检测方法、装置、存储介质及电子设备有效
申请号: | 201911314499.2 | 申请日: | 2019-12-19 |
公开(公告)号: | CN111181933B | 公开(公告)日: | 2022-04-26 |
发明(设计)人: | 陈亮;钟嘉琳 | 申请(专利权)人: | 贝壳技术有限公司 |
主分类号: | H04L9/40 | 分类号: | H04L9/40;H04L67/1095 |
代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 郑红娟;宋志强 |
地址: | 300280 天津市经济技术开发区南*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种网络爬虫检测方法、装置、存储介质及电子设备,涉及互联网技术。具体方案包括:获取目标请求端对受保护网站的当前访问请求产生的当前访问数据;获取所述目标请求端的历史访问数据,并根据所述当前访问数据及所述历史访问数据,确定所述目标请求端对所述受保护网站中的页面的访问重复率;根据所述访问重复率,确定网站服务端分别执行至少一种访问策略时各自的收益值;根据所述至少一种访问策略的收益值,确定所述当前访问请求的爬虫概率;根据所述爬虫概率与预设爬虫概率阈值,确定所述当前访问请求是否是网络爬虫发出的访问请求。本申请可以有效检测采用低端爬虫技术至高端爬虫技术的网络爬虫,有效提升对网络爬虫的检测能力。 | ||
搜索关键词: | 网络 爬虫 检测 方法 装置 存储 介质 电子设备 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贝壳技术有限公司,未经贝壳技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911314499.2/,转载请声明来源钻瓜专利网。
- 上一篇:定子铁芯外圆加工工装
- 下一篇:显示界面控制方法、装置、电子设备及介质