[发明专利]一种网页内容有分页的抓取方法在审
| 申请号： | 201810438605.7 | 申请日： | 2018-05-11 |
| 公开（公告）号： | CN108563797A | 公开（公告）日： | 2018-09-21 |
| 发明（设计）人： | 陈林;张来卿;庞严冬 | 申请（专利权）人： | 珠海横琴盛达兆业科技投资有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 519031 广东省珠海*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及JAVA平台技术领域，特别涉及一种网页内容有分页的抓取方法。本发明的方法是首先查看当前待抓取页的URL是否带有分页数，如果没有，用开发人员工具进行解析，找出其查询参数与请求的URL，根据它们拼接出有分页数的URL；然后使用网络工具对其加载，获取Html信息内容，使用爬虫工具从中提取出总页数、当前页数等信息；接着以总页数为结束值，当前页数为开始值，循环，在循环体中使用循环变量替换掉URL中的分页数，生成每个分页的URL；最后使用网络工具对分页URL加载，使用爬虫工具对所需内容进行提取，把获得的数据保存到数据库中。本发明解决了有分页的网页其没展示的分页部分不能直接抓取的问题。 | ||
| 搜索关键词： | 分页 抓取 爬虫工具 网络工具 网页内容 总页数 加载 页数 查询参数 数据保存 信息内容 循环变量 循环体 拼接 解析 替换 数据库 网页 展示 开发 | ||
【主权项】：
1.一种网页内容有分页的抓取方法，其特征在于：首先查看当前待抓取页的URL是否带有分页数，如果没有，用开发人员工具进行解析，找出其查询参数与请求的URL，根据它们拼接出有分页数的URL；然后使用网络工具对其加载，获取Html信息内容，使用爬虫工具从中提取出总页数、当前页数等信息；接着以总页数为结束值，当前页数为开始值，循环，在循环体中使用循环变量替换掉URL中的分页数，生成每个分页的URL；最后使用网络工具对分页URL加载，使用爬虫工具对所需内容进行提取，把获得的数据保存到数据库中；从而解决了有分页的网页其没展示的分页部分不能直接抓取的问题。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于珠海横琴盛达兆业科技投资有限公司，未经珠海横琴盛达兆业科技投资有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810438605.7/，转载请声明来源钻瓜专利网。
- 上一篇：区块链的数据压缩处理方法、装置及电子设备
- 下一篇：虚假网络舆情识别方法
