[发明专利]一种主机负荷智能感知的定向爬虫方法及系统在审
| 申请号： | 201911353456.5 | 申请日： | 2019-12-25 |
| 公开（公告）号： | CN111125488A | 公开（公告）日： | 2020-05-08 |
| 发明（设计）人： | 凌建辉;张启航;王天昊;曹勇;王禄生;张柏礼 | 申请（专利权）人： | 东南大学 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F16/955 |
| 代理公司： | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人： | 冯艳芬 |
| 地址： | 211102 江*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种主机负荷智能感知的定向爬虫方法及系统，方法包括：(1)打开浏览器并定位到待爬取站点，通过模拟浏览器行为实现页面的跳转以及读取；(2)根据设置的检索条件自动生成需要爬取页面的URL集合；(3)根据爬虫任务的重要性和紧迫程度对URL集合进行优先级分级，划分为若干个子集合，为每个子集合分配一个或多个线程来处理；(4)每个线程在进行数据爬取时所采用的方法为：A、对于URL中待爬取的条目，抓取相应内容的关键字词或标题，进行语义分析，并根据语义分析结果筛选爬取内容；B、记录当前页面响应时间，并与历史页面响应时间比较，从而感知主机/网络的繁忙程度，动态地调整爬取速度。本发明爬虫效率更高，且具有自律性，有利于构建良好的互联网生态。 | ||
| 搜索关键词： | 一种 主机 负荷 智能 感知 定向 爬虫 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于东南大学，未经东南大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201911353456.5/，转载请声明来源钻瓜专利网。
