[发明专利]一种对访问次数有限制的网站防封禁方法及系统在审
申请号: | 202011527854.7 | 申请日: | 2020-12-22 |
公开(公告)号: | CN114661970A | 公开(公告)日: | 2022-06-24 |
发明(设计)人: | 谢广才;姜波;周彦其;李鑫 | 申请(专利权)人: | 中文在线数字出版集团股份有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F21/31 |
代理公司: | 北京市盛峰律师事务所 11337 | 代理人: | 于国强 |
地址: | 100007 北京市东城*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 访问 次数 限制 网站 封禁 方法 系统 | ||
1.一种对访问次数有限制的网站防封禁方法,其特征在于:包括如下步骤,
S1、通过爬虫工具,自动化控制目标浏览器,使用selenium访问网站登录页面;
S2、当网站登录页面加载完毕,循环获取准备好的用户名和密码填充到登录表单中;
S3、登录网站,并获取登录结果cookie;
S4、解析获取的登录结果的返回体,并根据返回体中set cookie的内容,判断setcookie中当前cookie的有效性,根据判断结果剔除已过期cookie,之后将有效cookie保存到内存或持久化到硬盘,动态添加有效cookie到cookie池;
S5、根据有效cookie,直接采集目标网页数据。
2.根据权利要求1所述的对访问次数有限制的网站防封禁方法,其特征在于:步骤S4中当前登录结果cookie有效性的判断方式为,
判断当前cookie的请求使用次数是否达到预设访问次数的90%,若是,则表示当前登录结果的cookie有效;若否,则表示当前cookie已过期。
3.一种对访问次数有限制的网站防封禁系统,所述系统用于实现权利要求1或2所述的对访问次数有限制的网站防封禁方法;其特征在于:所述系统包括,
爬虫工具;用于自动化控制目标浏览器,使用selenium访问网站登录页面;
信息填充模块;用于在网站登录页面加载完毕后,循环获取准备好的用户名和密码填充到登录表单中;
cookie获取模块;用于获取登录结果的cookie;
解析模块;用于解析登录结果的返回体;
cookie控制模块;用于接收返回体中set cookie的内容,并根据返回体中set cookie的内容,判断set cookie中当前cookie的有效性,根据判断结果剔除已过期cookie,之后将有效cookie保存到内存或持久化到硬盘,动态添加有效cookie到cookie池;
采集模块;用于调用cookie控制模块,获取有效cookie,使用有效cookie直接采集目标网页数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中文在线数字出版集团股份有限公司,未经中文在线数字出版集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011527854.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种连接器、功能板及板级架构
- 下一篇:可伸缩式摄像模组和电子设备