[发明专利]网页爬取请求处理方法和装置有效
| 申请号： | 201510728872.4 | 申请日： | 2015-10-30 |
| 公开（公告）号： | CN106649354B | 公开（公告）日： | 2020-02-28 |
| 发明（设计）人： | 何熠皓 | 申请（专利权）人： | 北京国双科技有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F16/955 |
| 代理公司： | 北京康信知识产权代理有限责任公司 11240 | 代理人： | 韩建伟;张永明 |
| 地址： | 100083 北京市海淀区*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种网页爬取请求处理方法和装置。其中，该方法包括：获取新解析得到的待爬取请求，其中，待爬取请求包括待爬取页面的链接；判断是否存在存储文件，其中，存储文件用于存储待爬取请求；在判断出不存在存储文件时，将新解析得到的待爬取请求存储于请求队列中；以及在判断出存在存储文件时，将新解析得到的待爬取请求存储于存储文件中。本申请解决了直接将大量的网页爬取请求存储于内存中耗费内存空间的技术问题。 | ||
| 搜索关键词： | 网页 请求 处理 方法 装置 | ||
【主权项】：
一种网页爬取请求处理方法，其特征在于，包括：获取新解析得到的待爬取请求，其中，所述待爬取请求包括待爬取页面的链接；判断是否存在存储文件，其中，所述存储文件用于存储待爬取请求；在判断出不存在所述存储文件时，将所述新解析得到的待爬取请求存储于请求队列中；以及在判断出存在所述存储文件时，将所述新解析得到的待爬取请求存储于所述存储文件中。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司，未经北京国双科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201510728872.4/，转载请声明来源钻瓜专利网。
- 上一篇：网页数据的收集方法及装置
- 下一篇：一种数据处理方法及装置
