[发明专利]基于Docker的数据采集方法、装置及计算机设备、存储介质在审
申请号: | 201910548256.9 | 申请日: | 2019-06-24 |
公开(公告)号: | CN110457555A | 公开(公告)日: | 2019-11-15 |
发明(设计)人: | 林岳鹏;吕东玉;张川 | 申请(专利权)人: | 平安国际智慧城市科技股份有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F9/455 |
代理公司: | 44385 深圳市世联合知识产权代理有限公司 | 代理人: | 汪琳琳<国际申请>=<国际公布>=<进入 |
地址: | 518000广东省深圳市前海深港合*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于大数据技术领域,涉及一种基于Docker的数据采集方法、装置及计算机设备、存储介质,所述方法包括获取数据采集任务,根据所述数据采集任务向至少一个云服务器发送爬取程序容器的镜像;根据所述爬取程序容器的镜像在每个所述云服务器中生成至少一个爬取程序容器,所述爬取程序容器中运行爬取程序成为爬取节点;将所述数据采集任务发送至所述爬取节点中,并通过所述爬取节点对所述数据采集任务执行数据采集操作。本发明提供的方案通过Docker技术,可将爬取程序容器镜像发送至至少一个云服务器,且同一云服务器中可自动部署多个爬取节点,占用系统资源少,可有效利用云服务器资源,实现爬取节点按需增加,各爬取节点之间隔离性强,系统稳定性好。 | ||
搜索关键词: | 程序容器 数据采集 云服务器 发送 计算机设备 系统稳定性 存储介质 获取数据 任务发送 任务执行 系统资源 自动部署 大数据 隔离性 采集 占用 | ||
【主权项】:
1.一种基于Docker的数据采集方法,其特征在于,包括:/n获取数据采集任务,根据所述数据采集任务向至少一个云服务器发送爬取程序容器的镜像;/n根据所述爬取程序容器的镜像在每个所述云服务器中生成至少一个爬取程序容器,所述爬取程序容器中运行爬取程序成为爬取节点;/n将所述数据采集任务发送至所述爬取节点中,并通过所述爬取节点对所述数据采集任务执行数据采集操作。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安国际智慧城市科技股份有限公司,未经平安国际智慧城市科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910548256.9/,转载请声明来源钻瓜专利网。