[发明专利]一种增量抓取网页内容的方法在审
| 申请号： | 201410663266.4 | 申请日： | 2014-11-19 |
| 公开（公告）号： | CN104391917A | 公开（公告）日： | 2015-03-04 |
| 发明（设计）人： | 康钟荣;李强 | 申请（专利权）人： | 四川长虹电器股份有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 成都九鼎天元知识产权代理有限公司 51214 | 代理人： | 邓世燕 |
| 地址： | 621000 四*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种增量抓取网页内容的方法，首先通过全局搜索遍历的方式建立网页内容基础资源库，然后提取出网页内容处于变化更新状态的URL，并将这些URL和对应的网页解析规则加入到所分配的任务队列中，下载这些网页并创建网页DOM对象，依据解析规则提取出网页内容元数据并与原基础库中的网页内容对比后替换掉已更新的信息，或者向基础资源库中完全不存在的URL插入其网页内容信息。本发明在对整个资源库进行检查更新时不需要去遍历所有URL的网页内容，只需遍历那些有更新变化标识URL下的网页内容，实现了网页内容的增量抓取，减少了抓取工作量，提高了更新效率。 | ||
| 搜索关键词： | 一种 增量 抓取 网页 内容 方法 | ||
【主权项】：
一种增量抓取网页内容的方法，其特征在于：包括如下步骤：步骤一、建立网页内容基础资源库；步骤二、从网页内容基础资源库中识别并筛选出处于持续变化更新状态的网页，将网页地址URL存入数据库表中，同时定义网页解析规则；步骤三、部署若干线程多任务并发实现增量抓取网页内容元数据；步骤四、对网页内容基础资源库进行增量更新。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于四川长虹电器股份有限公司，未经四川长虹电器股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201410663266.4/，转载请声明来源钻瓜专利网。
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法
