[发明专利]爬虫调度方法、装置、终端设备和可读存储介质在审
| 申请号： | 202010955778.3 | 申请日： | 2020-09-11 |
| 公开（公告）号： | CN112100472A | 公开（公告）日： | 2020-12-18 |
| 发明（设计）人： | 夏凯军;鄢宇 | 申请（专利权）人： | 深圳市科盾科技有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951;G06F16/9537 |
| 代理公司： | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人： | 梁韬 |
| 地址： | 518000 广东省深圳市福田区益*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明实施例公开了爬虫调度方法、装置、终端设备和可读存储介质，该方法包括在调度爬虫爬取目标网页的数据时，将当前实际时间映射至预设的更新距离映射时间轴上以确定对应的当前映射时间；根据目标网页的更新情况确定爬虫下次调度的映射时间间隔；根据当前映射时间和映射时间间隔确定爬虫下次调度的下次调度映射时间；将下次调度映射时间映射至实际时间轴上以确定对应的下次调度实际时间；根据下次调度实际时间调度爬虫。本实施例的技术方案通过更新距离映射时间轴与实际时间轴之间的映射关系，将爬虫的调度时间与网页更新速度之间的关系进行量化，有效避免爬虫资源过度浪费，保证对网页更新的数据进行及时的爬取。 | ||
| 搜索关键词： | 爬虫 调度 方法 装置 终端设备 可读 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳市科盾科技有限公司，未经深圳市科盾科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010955778.3/，转载请声明来源钻瓜专利网。
