[发明专利]一种网站目标页的发现方法及装置在审
申请号: | 201610052790.7 | 申请日: | 2016-01-26 |
公开(公告)号: | CN105740363A | 公开(公告)日: | 2016-07-06 |
发明(设计)人: | 汤奇峰;王万宝 | 申请(专利权)人: | 上海晶赞科技发展有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 吴敏 |
地址: | 200072 上海市闸北区灵*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种网站目标页的发现方法及装置,所述方法包括:从URL队列中提取具有步骤标识的URL地址;判断提取出的当前URL地址的步骤标识是否为预设的最终步骤标识;当所述当前URL地址的步骤标识并非所述最终步骤标识时,根据所述步骤标识对所述当前URL地址指向的页面执行抓取操作,以得到下一级URL地址;为所述下一级URL地址确定步骤标识,所述下一级URL地址的步骤标识不同于所述当前URL地址的步骤标识;将所述下一级URL地址加入所述URL队列。上述的方案可以通过一套通用的爬虫系统来发现不同网站的目标页,节省了为发现不同网站目标页所耗费的资源。 | ||
搜索关键词: | 一种 网站 目标 发现 方法 装置 | ||
【主权项】:
一种网站目标页的发现方法,其特征在于,包括:从URL队列中提取具有步骤标识的URL地址;判断提取出的当前URL地址的步骤标识是否为预设的最终步骤标识;当所述当前URL地址的步骤标识并非所述最终步骤标识时,根据所述步骤标识对所述当前URL地址指向的页面执行抓取操作,以得到下一级URL地址;为所述下一级URL地址确定步骤标识,所述下一级URL地址的步骤标识不同于所述当前URL地址的步骤标识;将所述下一级URL地址加入所述URL队列。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海晶赞科技发展有限公司,未经上海晶赞科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610052790.7/,转载请声明来源钻瓜专利网。
- 上一篇:一种数据仓库快速查询方法和装置
- 下一篇:一种基于用户偏好的自适应采样方法