[发明专利]一种在分布式环境下动态调度IP代理池的方法、装置及存储介质有效
申请号: | 201811509275.2 | 申请日: | 2018-12-10 |
公开(公告)号: | CN109743411B | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 谢鹏达;栾江霞;李火泉;徐晓文;章正道 | 申请(专利权)人: | 厦门市美亚柏科信息股份有限公司 |
主分类号: | H04L61/5046 | 分类号: | H04L61/5046;H04L61/5061;H04L61/5007;H04L61/59 |
代理公司: | 厦门福贝知识产权代理事务所(普通合伙) 35235 | 代理人: | 郝学江 |
地址: | 361000 福建省厦门市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种在分布式环境下动态调度IP代理池的方法、装置及存储介质。该方法包括:构建步骤,扫描代理IP资源,为扫描获得的代理IP初始化状态标识后构建IP代理池;检测步骤,对初始代IP理池中的代理IP进行检测,并根据检测结果更新代理IP的状态标识;调度步骤,获取IP代理池中M个代理IP生成代理IP队列以供下载中心请求使用。本发明确保代理池中的可用IP代理保持在一定数量之上,并根据加锁机制和缓存机制,实现单个代理IP在面对多线程调度的情况下可以做到时间维度上的有序响应,防止单个代理IP高频率访问,通过IP代理池、有效性检测及调度的协同,使分布式数据采集系统在保证采集效率的同时,又可以避免因高频率访问导致访问失败。 | ||
搜索关键词: | 一种 分布式 环境 动态 调度 ip 代理 方法 装置 存储 介质 | ||
【主权项】:
1.一种在分布式环境下动态调度IP代理池的方法,其特征在于,该方法包括:构建步骤,扫描代理IP资源,为扫描获得的代理IP初始化状态标识后构建IP代理池;检测步骤,对初始代IP理池中的代理IP进行检测,并根据检测结果更新代理IP的状态标识;调度步骤,获取IP代理池中M个代理IP生成代理IP队列以供下载中心请求使用,其中M为大于1的整数。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门市美亚柏科信息股份有限公司,未经厦门市美亚柏科信息股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811509275.2/,转载请声明来源钻瓜专利网。
- 上一篇:异步通信方法及装置
- 下一篇:一种基于用户注册数的序列号控制方法