[发明专利]批量获取网页内容的方法有效
| 申请号： | 201110215794.X | 申请日： | 2011-07-29 |
| 公开（公告）号： | CN102254027A | 公开（公告）日： | 2011-11-23 |
| 发明（设计）人： | 李强;谌烜;刘东;孟庆康 | 申请（专利权）人： | 四川长虹电器股份有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 成都虹桥专利事务所 51124 | 代理人： | 李顺德 |
| 地址： | 621000 四*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及网络技术。本发明解决了现有网络爬虫技术获取网页内容效率低下的问题，提供了一种批量获取网页内容的方法，其技术方案可概括为：根据用户输入的需要访问的各网站各栏目的种子URL及其解析规则，批量下载各网页内容。本发明的有益效果是，提高网页内容的获取效率，适用于网页内容的获取。 | ||
| 搜索关键词： | 批量 获取 网页 内容 方法 | ||
【主权项】：
批量获取网页内容的方法，其特征在于，包括以下步骤：a.任务添加系统创建关系数据库；b.用户向该关系数据库输入需要访问的各网站各栏目的种子URL及其解析规则；c.在关系数据库中为需要访问的每个网页建立与其相对应的表；d.采用多线程的方式，各线程从关系数据库中获取种子URL加入到其各自的待处理任务队列中；e.网页下载系统根据各线程的待处理任务进行批量网页下载；f.网页解析系统对所下载网页进行内容分析，根据给定的网页内容解析规则提取该网页的有效信息；g.将这些有效信息填入对应的表中；h.用户根据关系数据库提供的对应网页的表读取该网页内容。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于四川长虹电器股份有限公司，未经四川长虹电器股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201110215794.X/，转载请声明来源钻瓜专利网。
- 上一篇：一种从红土镍矿中提取钴镍的方法
- 下一篇：一种网页表格数据抽取的方法
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法
