[发明专利]一种数据处理方法、装置和电子设备有效
申请号: | 202010140583.3 | 申请日: | 2020-03-03 |
公开(公告)号: | CN113347222B | 公开(公告)日: | 2022-08-05 |
发明(设计)人: | 陈飞;李毅;周天凌 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | H04L67/2876 | 分类号: | H04L67/2876;H04L67/141;H04L67/14;H04L41/5022;H04L41/5025 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 郑傲日 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 电子设备 | ||
本申请实施例提供了一种数据处理方法、装置和电子设备,其中,所述的方法包括:压力控制系统接收客户端的请求;依据请求对应的目标站点确定目标虚拟代理池;从目标虚拟代理池中选取目标虚拟代理节点,将请求转发至目标虚拟代理节点对应的目标代理服务器;接收目标代理服务器返回的响应消息,响应消息是由目标代理服务器从请求对应目标站点的服务器获取的;将响应消息返回至请求对应的客户端,并将目标虚拟代理节点从目标虚拟代理池中移除。从而避免已使用过的代理服务器再次访问目标站点的服务器,能够有效控制每个代理服务器访问对应站点服务器的频次,防止站点服务器出现异常。
技术领域
本申请涉及数据处理技术领域,特别是涉及一种数据处理方法、装置和电子设备。
背景技术
目前,客户端访问目标服务器的方式包括多种,一种方式是客户端直接访问目标服务器,另一种方式是通过HTTP(HyperText Transfer Protocol,超文本传输协议)代理服务访问目标服务器。其中,由于通过HTTP代理服务访问目标服务器,能够提高浏览速度、降低受攻击的概率,以及解决网络访问限制等;使得通过HTTP代理服务访问目标服务器受到很多用户的青睐。
通常,HTTP代理服务分为两层:第一层是由多个代理服务器构成集群,各代理服务器相互独立提供HTTP代理服务;第二层为反向代理服务器,向客户端提供统一代理接口。客户端直接将HTTP请求发送至反向代理服务器,反向代理服务器将请求按照转发策略转发到代理集群的各个代理服务器节点;各个代理服务器节点访问目标服务器获取对应的数据并返回给反向代理服务器,反向代理服务器将代理服务器节点返回的数据再返回给客户端。
其中,上述反向代理服务器的转发策略包括多种,如轮询策略、权重策略等;这些策略均是将总体请求分摊到不同的代理节点。当客户端对某目标站点总请求量较多时,每个代理节点所转发到目标站点对应服务器的请求量就越多;进而给目标站点的服务器造成巨大的压力,引发站点服务器故障或触发站点防攻击策略等异常。
发明内容
本申请实施例提供一种数据处理方法,以通过控制站点服务器压力,避免站点服务器出现异常。
相应的,本申请实施例还提供了一种数据处理装置和一种电子设备,用以保证上述方法的实现及应用。
为了解决上述问题,本申请实施例公开了一种数据处理方法,应用于数据处理平台中,所述数据处理平台包括:客户端、压力控制系统、代理服务器集群和服务器集群,所述的方法包括:所述压力控制系统接收所述客户端的请求;依据所述请求对应的目标站点确定目标虚拟代理池,所述目标虚拟代理池中的虚拟代理节点与所述代理服务器集群的代理服务器对应;从所述目标虚拟代理池中选取目标虚拟代理节点,并将所述请求转发至所述目标虚拟代理节点对应的目标代理服务器;接收所述目标代理服务器返回的响应消息,所述响应消息是由所述目标代理服务器从所述请求对应目标站点的服务器获取的;将所述响应消息返回至所述请求对应的客户端,并将所述目标虚拟代理节点从所述目标虚拟代理池中移除。
可选地,所述依据所述请求对应的目标站点确定目标虚拟代理池,包括:对所述请求进行解析,确定对应目标站点的标识信息,所述标识信息包括域名或网际互连协议IP地址;依据所述目标站点的标识信息,从已创建的虚拟代理池中查找对应的目标虚拟代理池;若从已创建的虚拟代理池中未查找到所述目标虚拟代理池,则采用所述目标站点对应代理服务器的虚拟代理节点,创建所述目标站点对应的目标虚拟代理池。
可选地,在所述依据所述请求对应的目标站点确定目标虚拟代理池之后,所述的方法还包括:判断所述目标虚拟代理池中是否存在可用的虚拟代理节点;所述从所述目标虚拟代理池中选取目标虚拟代理节点,包括:若所述目标虚拟代理池中存在可用的虚拟代理节点,则从所述目标虚拟代理池可用的虚拟代理节点中,选取一虚拟代理节点作为目标虚拟代理节点;若所述目标虚拟代理池中不存在可用的虚拟代理节点,则向所述请求对应的客户端返回第一请求失败消息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010140583.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种单晶炉加料系统
- 下一篇:一种命名实体识别方法、装置、设备和机器可读介质