[发明专利]一种爬取网页内容的方法和装置在审
| 申请号： | 201810864353.4 | 申请日： | 2018-08-01 |
| 公开（公告）号： | CN109255063A | 公开（公告）日： | 2019-01-22 |
| 发明（设计）人： | 唐明东;覃柏瑜 | 申请（专利权）人： | 宜人恒业科技发展（北京）有限公司;普信恒业科技发展（北京）有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951 |
| 代理公司： | 上海衡方知识产权代理有限公司 31234 | 代理人： | 朱穆峰 |
| 地址： | 100022 北京市朝阳*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 网页内容 目标页面 页面流 计算机可读存储介质 方法和装置 结构化信息 代码发布 爬虫系统 任务参数 系统重启 页面配置 有效解决 热部署 下载 调用 配置 维护 | ||
1.一种爬取网页内容的方法，其特征在于，包括：
根据任务参数调用相应的页面流配置；
根据所述页面流配置下载目标页面；
根据页面配置提取目标页面中的结构化信息。
2.如权利要求1所述的方法，其特征在于，所述页面配置存在于页面流配置下。
3.如权利要求2所述的方法，其特征在于，所述页面流配置存在于配置规则库中。
4.如权利要求3所述的方法，其特征在于，所述配置规则库包含自定义函数配置。
5.如权利要求4所述的方法，其特征在于，所述自定义函数配置、页面流配置、页面配置的数据格式是XML格式、YML格式以及JSON格式中的任意一种或者多种。
6.如权利要求1-5所述的方法，其特征在于，还包括：在根据页面配置提取目标页面中的结构化信息后，将所述结构化信息持久化。
7.如权利要求6所述的方法，其特征在于，所述持久化是指将结构化信息置于数据库、缓存以及文件系统中的任意一种或者多种。
8.一种爬取网页内容的装置，其特征在于，包括：
匹配模块，用于根据任务参数调用相应的页面流配置；
下载模块，用于根据所述页面流配置下载目标页面；
提取模块，用于根据页面配置提取目标页面中的结构化信息。
9.如权利要求8所述的装置，其特征在于，所述页面配置存在于页面流配置下。
10.如权利要求9所述的装置，其特征在于，所述页面流配置存在于配置规则库中。
11.如权利要求10所述的装置，其特征在于，所述配置规则库包含自定义函数配置。
12.如权利要求11所述的装置，其特征在于，所述自定义函数配置、页面流配置、页面配置的数据格式是XML格式、YML格式以及JSON格式中的任意一种或者多种。
13.如权利要求8-12所述的装置，其特征在于，还包括：
持久模块，用于在根据页面配置提取目标页面中的结构化信息后，将所述结构化信息持久化。
14.如权利要求13所述的装置，其特征在于，所述持久化是指将结构化信息置于数据库、缓存以及文件系统中的任意一种或者多种。
15.一种设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述存储器中存储的计算机程序，且所述计算机程序被执行时，实现权利要求1-7中任意一项所述的方法。
16.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现权利要求1-7中任意一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于宜人恒业科技发展（北京）有限公司;普信恒业科技发展（北京）有限公司，未经宜人恒业科技发展（北京）有限公司;普信恒业科技发展（北京）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201810864353.4/1.html，转载请声明来源钻瓜专利网。
