[发明专利]爬虫访问拦截方法及设备、服务器和计算机可读存储介质在审
申请号: | 201911133057.8 | 申请日: | 2019-11-19 |
公开(公告)号: | CN110958228A | 公开(公告)日: | 2020-04-03 |
发明(设计)人: | 张阳 | 申请(专利权)人: | 用友网络科技股份有限公司 |
主分类号: | H04L29/06 | 分类号: | H04L29/06 |
代理公司: | 北京友联知识产权代理事务所(普通合伙) 11343 | 代理人: | 尚志峰;王淑梅 |
地址: | 100094*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 爬虫 访问 拦截 方法 设备 服务器 计算机 可读 存储 介质 | ||
1.一种爬虫访问拦截方法,其特征在于,包括:
接收访问请求,对所述访问请求进行解析以得到访问特征;
获取拦截策略,基于所述访问特征符合所述拦截策略的情况,拒绝所述访问请求。
2.根据权利要求1所述的爬虫访问拦截方法,其特征在于,所述访问特征包括:
所述访问请求对应的互联网协议地址,所述访问请求对应的目标服务类型;
所述拦截策略包括:
第一待拦截服务,第一访问阈值;
若所述目标服务类型为所述第一待拦截服务,且在预设时长内,所述互联网协议地址对应发出所述访问请求的数量超过所述第一访问阈值,确定所述访问特征符合所述拦截策略。
3.根据权利要求2所述的爬虫访问拦截方法,其特征在于,所述访问特征还包括:所述访问请求对应的目标服务器;
所述拦截策略还包括:
第二待拦截服务,所述目标服务器在所述预设时长内对应的所述第二待拦截服务的第二访问阈值,所述互联网协议地址对应的所述第二待拦截服务的第三访问阈值;
若目标服务类型为所述第二待拦截服务,且满足:
所述预设时长内,所述目标服务器的所述第二待拦截服务的访问量大于或等于所述第二访问阈值;和/或
所述预设时长内,所述互联网协议地址对应的所述第二待拦截服务的访问量大于或等于所述第三访问阈值,确定所述访问特征符合所述拦截策略;
其中,所述第一待拦截服务包括所述第二待拦截服务,所述第一访问阈值大于所述第三访问阈值。
4.根据权利要求3所述的爬虫访问拦截方法,其特征在于,还包括:
通过预设的应用程序接口获取更新数据;
通过所述更新数据动态调整所述第二待拦截服务、所述预设时长、所述第二访问阈值和所述第三访问阈值。
5.根据权利要求2至4中任一项所述的爬虫访问拦截方法,其特征在于,所述对所述访问请求进行解析以得到访问特征的步骤,具体包括:
根据所述访问请求对应的互联网协议地址建立缓存项;
在所述预设时长内,对所述互联网协议地址发起的全部所述访问请求进行存储或持久化,以得到所述互联网协议地址发起的所述访问请求的集合,通过所述集合确定所述访问特征。
6.根据权利要求5所述的爬虫访问拦截方法,其特征在于,以字段信息的形式表示所述访问特征;
所述拦截策略还包括:自定义拦截字段;
若所述访问特征中存在任一字段信息符合所述自定义拦截字段,确定所述访问特征符合所述拦截策略。
7.根据权利要求6所述的爬虫访问拦截方法,其特征在于,还包括:
接收自定义配置指令,根据所述自定义配置指令生成或更新所述自定义拦截字段。
8.一种爬虫访问拦截设备,其特征在于,包括:
存储器,被配置为存储有计算机程序;
处理器,被配置为执行所述计算机程序以实现如权利要求1至7中任一项所述的爬虫访问拦截方法。
9.一种服务器,其特征在于,包括:
代理服务器,所述代理服务器被配置为接收访问请求;
如权利要求8所述的爬虫访问拦截设备,所述爬虫访问拦截设备被配置为与所述代理服务器之间进行数据指令交互;
后端服务器,所述后端服务器被配置为接收未被拦截的所述访问请求,并执行与所述访问请求对应的操作。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的爬虫访问拦截方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于用友网络科技股份有限公司,未经用友网络科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911133057.8/1.html,转载请声明来源钻瓜专利网。