[发明专利]一种基于内嵌浏览器的可视化网络爬虫系统及分析方法在审
申请号: | 201710234111.2 | 申请日: | 2017-04-11 |
公开(公告)号: | CN107092670A | 公开(公告)日: | 2017-08-25 |
发明(设计)人: | 李煜;王小龙;李鹏 | 申请(专利权)人: | 武汉大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 武汉科皓知识产权代理事务所(特殊普通合伙)42222 | 代理人: | 鲁力 |
地址: | 430072 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于内嵌浏览器的可视化网络爬虫系统及分析方法,包括可视化操作界面、元素选择模式和爬虫结构树。该系统以浏览器为载体,在载体上通过多种元素选择模式获取对应元素的路径,按照多个页面层次对待爬站点进行配置。手动配置爬虫结构树的一个分支,系统即可自动完成整个结构树的配置。按照配置好的结构树,将所有元素的文本下载到数据库中。另外,该系统可以爬取任何主题。因此,本发明具有可视化程度高、自动化程度高、适用性广和配置简单的优势。 | ||
搜索关键词: | 一种 基于 浏览器 可视化 网络 爬虫 系统 分析 方法 | ||
【主权项】:
一种基于内嵌浏览器的可视化网络爬虫系统,其特征在于,包括:页面查看模式(1):包括浏览器模式(4)、HTML元素树形结构模式(5)、脚本页面模式(6)和HTML源代码模式(7);页面元素选择(2):包括单选页面元素(8)、多选页面元素(9)和网页元素相似选择(10)爬虫结构树(3):包括分支页面(11)、分页页面(12)和详细页面(13);配置分支页面(11)是利用所述的页面元素选择(2),将某类元素提取到分支列表,加入所述的爬虫结构树(3)。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉大学,未经武汉大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710234111.2/,转载请声明来源钻瓜专利网。
- 上一篇:一种建立机器人智能交互的方法
- 下一篇:一种元信息管理的方法及设备