[发明专利]一种基于HTML流处理的数据采集方法和系统无效
申请号: | 201010179377.X | 申请日: | 2010-05-20 |
公开(公告)号: | CN101859321A | 公开(公告)日: | 2010-10-13 |
发明(设计)人: | 施洋;张奇;黄萱菁 | 申请(专利权)人: | 复旦大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/06 |
代理公司: | 上海正旦专利代理有限公司 31200 | 代理人: | 陆飞;盛志范 |
地址: | 20043*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于网页信息抽取技术领域,具体是一种基于HTML数据流处理的数据采集方法和系统。它由多线程收集器和下载控制模板以及数据存储系统构成。多线程收集器保证了工作速度,下载控制模板保证了工作的准确性。本系统可以在通过简单的模板配置,完成对使用人需要的网络数据的采集。实际应用表明本发明具有良好的稳定性,高度的实用性以及高效的效率。 | ||
搜索关键词: | 一种 基于 html 处理 数据 采集 方法 系统 | ||
【主权项】:
一种基于HTML流处理的数据采集方法,其特征在于具体步骤如下:通过HTTP协议获取HTML文档数据流之后,利用一些节点来处理传入的数据流,这些节点以树的形式来表示,执行步骤为从树的根节点出发,按深度扩展的顺序往下进行处理,对于同一层的节点按其先后顺序处理;每一个节点都设置有一定的属性;每个节点都传入当前数据流和需要进行存储的数据信息,这些信息不会因为通过其子节点返回之后而改变;通过多线程进行多路并行处理,以及数学概率模型进行下载检验,将处理后的数据保存于存储系统之中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于复旦大学,未经复旦大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201010179377.X/,转载请声明来源钻瓜专利网。
- 上一篇:具主体辨别的随身储存装置及其方法
- 下一篇:元数据管理方法及管理系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置