[发明专利]一种爬虫翻页策略的检测方法及装置有效
申请号: | 201811142844.4 | 申请日: | 2018-09-28 |
公开(公告)号: | CN110968754B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 张野 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种爬虫翻页策略的检测方法及装置,其中,方法包括:获取网站的目标网页数、预设爬取网页数以及实际爬取网页数;所述目标网页数为包含目标信息的网页数;所述预设爬取网页数为爬虫能够爬取网页数的上限值;所述实际爬取网页数为爬虫实际爬取的网页数;依据所述目标网页数、所述预设爬取网页数以及所述实际爬取网页数,检测所述爬虫翻页策略是否正常。通过本申请实施例,使得依据网站的目标网页数、预设爬取网页数以及实际爬取网页数可以检测当前爬虫的翻页策略是否正常。 | ||
搜索关键词: | 一种 爬虫 翻页 策略 检测 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811142844.4/,转载请声明来源钻瓜专利网。
- 上一篇:测量配置方法、测量方法、测量上报方法及装置
- 下一篇:一种颜色调整方法及装置