[发明专利]基于Docker的数据采集方法、装置及计算机设备、存储介质在审

专利信息
申请号: 201910548256.9 申请日: 2019-06-24
公开(公告)号: CN110457555A 公开(公告)日: 2019-11-15
发明(设计)人: 林岳鹏;吕东玉;张川 申请(专利权)人: 平安国际智慧城市科技股份有限公司
主分类号: G06F16/951 分类号: G06F16/951;G06F9/455
代理公司: 44385 深圳市世联合知识产权代理有限公司 代理人: 汪琳琳<国际申请>=<国际公布>=<进入
地址: 518000广东省深圳市前海深港合*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明属于大数据技术领域,涉及一种基于Docker的数据采集方法、装置及计算机设备、存储介质,所述方法包括获取数据采集任务,根据所述数据采集任务向至少一个云服务器发送爬取程序容器的镜像;根据所述爬取程序容器的镜像在每个所述云服务器中生成至少一个爬取程序容器,所述爬取程序容器中运行爬取程序成为爬取节点;将所述数据采集任务发送至所述爬取节点中,并通过所述爬取节点对所述数据采集任务执行数据采集操作。本发明提供的方案通过Docker技术,可将爬取程序容器镜像发送至至少一个云服务器,且同一云服务器中可自动部署多个爬取节点,占用系统资源少,可有效利用云服务器资源,实现爬取节点按需增加,各爬取节点之间隔离性强,系统稳定性好。
搜索关键词: 程序容器 数据采集 云服务器 发送 计算机设备 系统稳定性 存储介质 获取数据 任务发送 任务执行 系统资源 自动部署 大数据 隔离性 采集 占用
【主权项】:
1.一种基于Docker的数据采集方法,其特征在于,包括:/n获取数据采集任务,根据所述数据采集任务向至少一个云服务器发送爬取程序容器的镜像;/n根据所述爬取程序容器的镜像在每个所述云服务器中生成至少一个爬取程序容器,所述爬取程序容器中运行爬取程序成为爬取节点;/n将所述数据采集任务发送至所述爬取节点中,并通过所述爬取节点对所述数据采集任务执行数据采集操作。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安国际智慧城市科技股份有限公司,未经平安国际智慧城市科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201910548256.9/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top