[发明专利]一种网络爬虫实现方法和网络爬虫系统在审
申请号: | 201510901579.3 | 申请日: | 2015-12-08 |
公开(公告)号: | CN105354337A | 公开(公告)日: | 2016-02-24 |
发明(设计)人: | 葛山 | 申请(专利权)人: | 北京奇虎科技有限公司;奇智软件(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京市隆安律师事务所 11323 | 代理人: | 权鲜枝;何立春 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种网络爬虫实现方法和网络爬虫系统。其中所述方法包括:模拟用户对网页的访问操作发送网页访问请求;根据网页访问请求对应的反馈内容获得相应的网页内容;分析获得的网页内容,获得目标信息。通过该技术方案实现的网络爬虫并不直接访问网站服务器获取资源,而是通过模拟正常用户的网页访问请求,在客户端如浏览器获取到网页内容,避免了受到网站设置的robots.txt中对网络爬虫获取数据内容的限制,并且获取到的内容也是通过正当途径访问网页获取的,既可以满足用户爬取数据的需求,也不违反网站服务提供方的约束。 | ||
搜索关键词: | 一种 网络 爬虫 实现 方法 系统 | ||
【主权项】:
一种网络爬虫实现方法,其中,该方法包括:模拟用户对网页的访问操作发送网页访问请求;根据网页访问请求对应的反馈内容获得相应的网页内容;分析获得的网页内容,获得目标信息。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司;奇智软件(北京)有限公司,未经北京奇虎科技有限公司;奇智软件(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510901579.3/,转载请声明来源钻瓜专利网。