[发明专利]一种往爬虫平台注任务的方法及装置有效
申请号: | 201710637357.4 | 申请日: | 2017-07-31 |
公开(公告)号: | CN110020066B | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 李鹤 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F16/953 | 分类号: | G06F16/953;G06F16/951;G06F9/48 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 侯珊;王宝筠 |
地址: | 100080 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种往爬虫平台注任务的方法及装置,首先获取满足执行条件的任务数据;然后将所述满足执行条件的任务数据全部加入到待处理队列;最后调用爬虫平台的应用程序编程接口API将所述待处理队列中的任务数据注入到爬虫平台,以使爬虫平台执行所述待处理队列中的任务数据的爬取。上述方法及装置,会把所有满足执行条件的任务全部加入到待处理队列,为任务的及时注入奠定了基础,提升了任务注入的效率,进而保证了爬虫平台执行任务爬取的工作效率。 | ||
搜索关键词: | 一种 爬虫 平台 任务 方法 装置 | ||
【主权项】:
1.一种往爬虫平台注任务的方法,其特征在于,所述方法包括:获取满足执行条件的任务数据;将所述满足执行条件的任务数据全部加入到待处理队列;调用爬虫平台的应用程序编程接口API将所述待处理队列中的任务数据注入到爬虫平台,以使爬虫平台执行所述待处理队列中的任务数据的爬取。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710637357.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种网站识别方法及装置
- 下一篇:一种网站模板引擎系统