[发明专利]基于XML和XPath的Web数据提取系统以及其使用方法在审
申请号: | 202010696786.0 | 申请日: | 2020-07-20 |
公开(公告)号: | CN111859867A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 官鲁卫 | 申请(专利权)人: | 广西美立方工程咨询有限公司 |
主分类号: | G06F40/154 | 分类号: | G06F40/154;G06F40/205;G06F40/279;G06F16/951 |
代理公司: | 合肥信诚兆佳知识产权代理事务所(特殊普通合伙) 34159 | 代理人: | 尉敏 |
地址: | 545001 广西壮族自治区柳*** | 国省代码: | 广西;45 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 xml xpath web 数据 提取 系统 及其 使用方法 | ||
1.基于XML和XPath的Web数据提取系统,包括用于向网络数据库当中网页进行转换的转换模块,其特征在于,所述转换模块依次连接有解析模块、抽取建立模块、抽取整合模块、爬取整合模块和推送模块,所述抽取建立模块依次连接有抽取设定模块和抽取指令修改模块,解析模块、抽取设定模块和爬取整合模块均连接有同一个存储模块。
2.根据权利要求1所述的基于XML和XPath的Web数据提取系统,其特征在于,所述转换模块将当前提取的目标网页转换成规范的XML网页,解析模块将转换的XML网页解析成DOM树,抽取建立模块从解析后的DOM树当中抽取需要的目标Web信息点内容,抽取整合模块将抽取之后的Web信息点内容进行整合处理形成抽取列表,爬取整合模块按照抽取整合的抽取列表从网络数据库当中下载爬取相对应的目标文件内容,最后将下载爬取相对应的目标文件内容进行转换压缩,推送模块将下载爬取之后的目标文件内容推送至网络数据库供使用人员使用。
3.根据权利要求1所述的基于XML和XPath的Web数据提取系统,其特征在于,所述抽取指令修改模块用于接收抽取方式指令内容,抽取设定模块根据接收的抽取方式指令内容对抽取建立模块当中的抽取方式进行修改。
基于XML和XPath的Web数据提取系统的使用方法,包括以下步骤,其特征在于:
S1目标网页的转换和解析
首先转换模块将当前提取的目标网页转换成规范的XML网页,同时解析模块将转换的XML网页解析成DOM树并传输至抽取建立模块;
S2抽取方式调控
操作人员向抽取指令修改模块发生抽取方式指令内容,然后抽取设定模块根据接收的抽取方式指令内容对抽取建立模块当中的抽取方式进行修改;
S3目标内容抽取
抽取建立模块按照抽取设定模块设定的抽取方式从解析后的DOM树当中抽取需要的目标Web信息点内容,以网络爬虫对解析后的DOM树当中抽取需要的目标Web信息点内容进行爬取,只有抽取整合模块将抽取之后的Web信息点内容进行整合处理形成抽取列表;
S4抽取内容爬取推送
爬取整合模块按照抽取整合的抽取列表从网络数据库当中下载爬取相对应的目标文件内容,其次将下载爬取相对应的目标文件内容进行转换压缩,最后推送模块将下载爬取之后的目标文件内容推送至网络数据库供使用人员使用。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广西美立方工程咨询有限公司,未经广西美立方工程咨询有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010696786.0/1.html,转载请声明来源钻瓜专利网。