[发明专利]爬虫调度管理平台通信方法和爬虫调度管理平台系统在审
申请号: | 202011302154.8 | 申请日: | 2020-11-19 |
公开(公告)号: | CN112416550A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 刘明东 | 申请(专利权)人: | 广州探途网络技术有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/54;G06F11/30;G06F16/951 |
代理公司: | 北京中知君达知识产权代理有限公司 11769 | 代理人: | 李辰;黄启法 |
地址: | 510000 广东省广州市海珠区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请是关于爬虫调度管理平台通信方法和爬虫调度管理平台系统。该方法由负责下达和发送爬虫任务的主节点、负责执行爬虫任务的工作节点和负责数据存储的数据存储节点执行,工作节点主机发送包含本机唯一标识信息到数据存储节点;数据存储节点根据唯一标识信息在本地数据库中查找对应的工作节点信息;确认本地数据库中没有对应的工作节点信息,则将工作节点信息加入到本地数据库中;将工作节点信息发送至主节点以供主节点使用工作节点信息与工作节点进行通信。本实施例通过工作节点主动将自身信息存储于数据存储节点的方法,确保工作节点能够成功注册,进而保证了主节点与工作节点的通信稳定性。 | ||
搜索关键词: | 爬虫 调度 管理 平台 通信 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州探途网络技术有限公司,未经广州探途网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011302154.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种秋刀鱼养殖装置
- 下一篇:一种基于纺织加工的针织物烘干装置