[发明专利]一种基于http协议的网页信息提取方法及装置在审
申请号: | 201410299203.5 | 申请日: | 2014-06-26 |
公开(公告)号: | CN104050281A | 公开(公告)日: | 2014-09-17 |
发明(设计)人: | 马春新;董磊 | 申请(专利权)人: | 北京思特奇信息技术股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 杨立 |
地址: | 100086 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 http 协议 网页 信息 提取 方法 装置 | ||
技术领域
本发明涉及网络技术中的信息爬取及解析领域,特别是涉及一种基于http协议的网页信息提取方法及装置。
背景技术
Web2.0时代是信息大爆炸的时代,海量的数据信息充斥在工作和生活的方方面面,因此基于数据的分析和潜在价值的挖掘需求也日益迫切起来。然而,在实际中,因数据拥有方对数据的管控非常严格,很多有价值的数据信息是不能够很方便的被采集和提取出的。在这样的背景下,数据重要性凸显,数据可获得性却不高,甚至于受到限制。因此,如何基于数据的互联网特性,对所关心的目标数据进行采集、提取和加以利用已成为一个急待解决的问题。
发明内容
本发明所要解决的技术问题是提供一种基于http协议的信息提取方法及装置,用于解决现有技术中目标信息不易获取的技术问题。
本发明解决上述技术问题的技术方案如下:一种基于http协议的网页信息提取方法,包括:
模板生成步骤:根据要提取信息的目标页面,定制相应的页面解析模板,并在页面解析模板中预定义目标字段和校验规则;
网页地址解析步骤:解析目标页面的网页地址,获取目标页面的HTML源文件;
信息提取步骤:读取并解析目标页面的HTML源文件,在目标页面的HTML源文件中提取与页面解析模板预定义的目标字段相匹配的页面信息;
信息校验步骤:根据预定义的校验规则,校验提取出的页面信息是否符合要求;
信息保存步骤:保存经信息校验后的页面信息。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述信息提取步骤中以块方式提取出匹配到的页面信息。
进一步,定制的页面解析模板为XML文件,且该XML文件中包括预定义的节点信息、目标字段信息和校验规则信息。
进一步,预定义的校验规则为正则表达式。
进一步,采用SAX技术读取并解析目标页面的HTML源文件。
进一步,在目标页面的HTML源文件中提取与页面解析模板预定义的目标字段相匹配的页面信息具体包括:采用DOM技术读取定制的页面解析模板,并遍历页面解析模板中包括的节点,在目标页面的HTML源文件中匹配目标字段,提出与目标字段相匹配的页面信息,并保存到临时表中。
对应上述网页信息提取方法,本发明的技术方案还包括一种基于http协议的网页信息提取装置,包括:
模板生成模块,用于根据要提取信息的目标页面,定制相应的页面解析模板,并在页面解析模板中预定义目标字段和校验规则;
网页地址解析模块,其用于解析目标页面的网页地址,获取目标页面的HTML源文件;
信息提取模块,其用于读取并解析目标页面的HTML源文件,在目标页面的HTML源文件中提取与页面解析模板预定义的目标字段相匹配的页面信息;
信息校验模块,其用于校验所述信息提取模块提取出的页面信息是否符合需求;
信息保存模块,其用于保存经信息校验后的页面信息。进一步,所述信息保存模块采用数据库服务器。
本发明的有益效果是:本发明不依赖于数据拥有方的开放度,可根据基本的互联网通信协议(http),对互联网中数据进行采集、提取,有利于进行数据的价值挖掘和分析。本发明通过开放的http协议,对网络中可以访问到的页面信息进行有效数据过滤采集、归集,并对不同的目标页面进行模板定制,实现特定信息的提取。不同于边提取边生成模板的形式,本发明提前定制目标页面的模板,针对性更强,有利于提高信息提取的效率和准确度。
附图说明
图1为本发明基于http协议的信息提取方法的流程示意图;
图2为本发明实施例所述信息提取方法的系统架构图;
图3为本发明基于http协议的信息提取装置的结构示意图。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
如图1所示,本实施例给出了一种基于http协议的网页信息提取方法,包括:
模板生成步骤:根据要提取信息的目标页面,定制相应的页面解析模板,并在页面解析模板中预定义目标字段和校验规则;
网页地址解析步骤:解析目标页面的网页地址,获取目标页面的HTML源文件;
信息提取步骤:读取并解析目标页面的HTML源文件,在目标页面的HTML源文件中提取与页面解析模板预定义的目标字段相匹配的页面信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京思特奇信息技术股份有限公司,未经北京思特奇信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410299203.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:介质滤波器
- 下一篇:预取规则的更新方法及装置