[发明专利]一种支持多协议分布式高并发的互联网信息采集系统及方法在审
申请号: | 202010276673.5 | 申请日: | 2020-04-10 |
公开(公告)号: | CN111488508A | 公开(公告)日: | 2020-08-04 |
发明(设计)人: | 焦健;张沛轩;吕恒;张立华 | 申请(专利权)人: | 长春博立电子科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/9535;G06F16/955 |
代理公司: | 北京远大卓悦知识产权代理事务所(普通合伙) 11369 | 代理人: | 许小东 |
地址: | 130000 吉林*** | 国省代码: | 吉林;22 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种支持多协议分布式高并发的互联网信息采集系统,包括:包括:客户端,其为B/S风格,所述客户端中预存多个网站信息采集模板;主机服务器,其包括前端程序和后端程序;主采集服务器,其接收所述主机服务器的指令对初始URL数据进行提取、管理和分配,并且所述主采集服务器具有反反爬安全机制;缓存服务器,其具有缓存数据库Redis,所述缓存服务器接收所述初始URL数据;从采集服务器,其对所述待爬取URL数据进行抓取、解析和提取形成抓取结果;数据存储服务器,其包括持久化数据库和文件系统,用于对所述爬取结果进行保存。本发明还提供一种支持多协议分布式高并发的互联网信息采集方法,能够控制采集调度,快速准确的获取信息。 | ||
搜索关键词: | 一种 支持 协议 分布式 并发 互联网 信息 采集 系统 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于长春博立电子科技有限公司,未经长春博立电子科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010276673.5/,转载请声明来源钻瓜专利网。