[发明专利]基于标签的反爬虫方法、装置、计算机设备及存储介质在审
申请号: | 202011527981.7 | 申请日: | 2020-12-22 |
公开(公告)号: | CN112650905A | 公开(公告)日: | 2021-04-13 |
发明(设计)人: | 郑如刚 | 申请(专利权)人: | 深圳壹账通智能科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/957;G06F16/958 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 标签 爬虫 方法 装置 计算机 设备 存储 介质 | ||
1.一种基于标签的反爬虫方法,其特征在于,包括下述步骤:
在接收到客户端发送的对目标网页的操作请求时,解析所述目标网页,获取所述目标网页的第一标签标识;
为所述目标网页分配第二标签标识,将所述第一标签标识替换为所述第二标签标识;
使用配置的标签工具生成随机数据,将所述随机数据添加至所述第二标签标识中,得到所述目标网页新的标签标识。
2.根据权利要求1所述的基于标签的反爬虫方法,其特征在于,所述解析目标网页,获取所述目标网页的第一标签标识的步骤包括:
对所述目标网页进行解析,得到所述目标网页的第一网页标签,并获取第一网页标签标识;
根据所述第一网页标签获得所述目标网页的第一层叠样式标签,并从所述第一层叠样式标签中获得第一层叠样式标签标识。
3.根据权利要求2所述的基于标签的反爬虫方法,其特征在于,所述对所述目标网页进行解析,得到所述目标网页的第一网页标签,并获取第一网页标签标识的步骤包括:
通过HTML解析器对所述目标网页进行HTML解析,得到所述目标网页HTML结构;
根据所述HTML结构获取所述第一网页标签,并从所述第一网页标签中得到所述目标网页的第一网页标签标识。
4.根据权利要求3所述的基于标签的反爬虫方法,其特征在于,所述根据所述第一网页标签获得所述目标网页的第一层叠样式标签的步骤包括:
根据所述第一网页标签对所述目标网页的全文进行查询;
根据查询结果获取所述第一层叠样式标签。
5.根据权利要求2至4任一项所述的基于标签的反爬虫方法,其特征在于,所述为所述目标网页分配第二标签标识,将所述第一标签标识替换为所述第二标签标识的步骤包括:
为所述目标网页分配第二网页标签标识和第二层叠样式标签标识;
用所述第二网页标签标识替换所述第一网页标签标识,用所述第二层叠样式标签标识替换所述第一层叠样式标签标识。
6.根据权利要求5所述的基于标签的反爬虫方法,其特征在于,所述将所述随机数据添加至所述第二标签标识中,得到所述目标网页新的标签标识的步骤包括:
将所述随机数据分别添加至所述第二网页标签标识和第二层叠样式标签标识中,得到第三网页标签标识和第三层叠样式标签标识。
7.根据权利要求6所述的基于标签的反爬虫方法,其特征在于,在所述得到所述目标网页新的标签标识的步骤之后还包括:
将所述目标网页的网页数据放进所述目标网页对应的具有所述新的标签标识的标签中,并对所述目标网页进行渲染。
8.一种基于标签的反爬虫装置,其特征在于,包括:
解析模块,用于在接收到客户端发送的对目标网页的操作请求时,解析所述目标网页,获取所述目标网页的第一标签标识;
分配模块,用于为所述目标网页分配第二标签标识,将所述第一标签标识替换为所述第二标签标识;
添加更新模块,用于使用配置的标签工具生成随机数据,将所述随机数据添加至所述第二标签标识中,得到新的所述目标网页的标签标识。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的基于标签的反爬虫方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的基于标签的反爬虫方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司,未经深圳壹账通智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011527981.7/1.html,转载请声明来源钻瓜专利网。