[发明专利]一种用于爬取页面的方法和设备在审
| 申请号： | 201310078316.8 | 申请日： | 2013-03-12 |
| 公开（公告）号： | CN103226568A | 公开（公告）日： | 2013-07-31 |
| 发明（设计）人： | 王江;刘浩 | 申请（专利权）人： | 北京百度网讯科技有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 北京汉昊知识产权代理事务所(普通合伙) 11370 | 代理人： | 罗朋;周建华 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明的目的是提供一种用于爬取页面的方法与设备。其中，爬取设备根据已爬取页面，获取对应候选爬取页面的候选页面标识信息；根据所述候选爬取页面与所述已爬取页面的关联性信息，将所述候选页面标识信息添加至对应的待爬页面集合，其中，所述待爬页面集合包括一个或多个待爬取页面的页面标识信息；根据所述待爬页面集合，确定待爬取页面的目标爬取标识信息；爬取所述目标爬取标识信息所对应的目标页面。与现有技术相比，本发明通过根据所述关联性信息，有效的控制了爬取的调度行为，以实现爬取调度的可配置性，使得爬取能够目的性的扩散，控制爬虫在网页间移动的方向和速度，提高了垂直爬虫的爬取效率，保证了爬取数据的完整性。 | ||
| 搜索关键词： | 一种 用于 页面 方法 设备 | ||
【主权项】：
一种用于爬取页面的方法，其中，该方法包括以下步骤：x根据已爬取页面，获取对应候选爬取页面的候选页面标识信息；y根据所述候选爬取页面与所述已爬取页面的关联性信息，将所述候选页面标识信息添加至对应的待爬页面集合，其中，所述待爬页面集合包括一个或多个待爬取页面的页面标识信息；其中，该方法还包括：a根据所述待爬页面集合，确定待爬取页面的目标爬取标识信息；b爬取所述目标爬取标识信息所对应的目标页面。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司，未经北京百度网讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201310078316.8/，转载请声明来源钻瓜专利网。
