[发明专利]一种爬取网页内容的方法和装置在审
申请号: | 201810864353.4 | 申请日: | 2018-08-01 |
公开(公告)号: | CN109255063A | 公开(公告)日: | 2019-01-22 |
发明(设计)人: | 唐明东;覃柏瑜 | 申请(专利权)人: | 宜人恒业科技发展(北京)有限公司;普信恒业科技发展(北京)有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 上海衡方知识产权代理有限公司 31234 | 代理人: | 朱穆峰 |
地址: | 100022 北京市朝阳*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明的实施方式提供了一种爬取网页内容的方法。该方法包括:根据任务参数调用相应的页面流配置;根据所述页面流配置下载目标页面;根据页面配置提取目标页面中的结构化信息。本发明有效解决了因代码发布等维护原因需要系统重启的问题,实现了爬虫系统的热部署能力。此外,本发明的实施方式还提供了一种爬取网页内容的装置、一种设备以及一种计算机可读存储介质。 | ||
搜索关键词: | 网页内容 目标页面 页面流 计算机可读存储介质 方法和装置 结构化信息 代码发布 爬虫系统 任务参数 系统重启 页面配置 有效解决 热部署 下载 调用 配置 维护 | ||
【主权项】:
1.一种爬取网页内容的方法,其特征在于,包括:根据任务参数调用相应的页面流配置;根据所述页面流配置下载目标页面;根据页面配置提取目标页面中的结构化信息。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于宜人恒业科技发展(北京)有限公司;普信恒业科技发展(北京)有限公司,未经宜人恒业科技发展(北京)有限公司;普信恒业科技发展(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810864353.4/,转载请声明来源钻瓜专利网。