[发明专利]一种基于代理的HTTP报文采集方法、终端设备及存储介质有效
| 申请号： | 202110158253.1 | 申请日： | 2021-02-05 |
| 公开（公告）号： | CN112995291B | 公开（公告）日： | 2023-02-21 |
| 发明（设计）人： | 赖子琪;王博;朱振水 | 申请（专利权）人： | 厦门市美亚柏科信息股份有限公司 |
| 主分类号： | H04L67/02 | 分类号： | H04L67/02;H04L67/60;H04L67/56;H04L9/40;G06F16/951 |
| 代理公司： | 厦门市精诚新创知识产权代理有限公司 35218 | 代理人： | 何家富 |
| 地址： | 361000 福建省厦门市*** | 国省代码： | 福建;35 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种基于代理的HTTP报文采集方法、终端设备及存储介质，该方法中包括：S1：构建HTTP报文代理模块，通过HTTP报文代理模块接收爬虫模块发送的HTTP请求报文；S2：判断HTTP报文库是否存在与接收的HTTP请求报文相同的HTTP请求报文，如果是，进入S4；否则，进入S3；S3：将HTTP请求报文转发至对应的爬取目标服务器，并接收HTTP响应报文，将HTTP响应报文转发至爬虫模块，同时将HTTP请求报文和HTTP响应报文存入HTTP报文库内，并记录关联关系；S4：从HTTP报文库获取HTTP请求报文关联的HTTP响应报文，并将其转发至爬虫模块。本发明从而避免了爬虫模块对不是由爬取目标服务器的内容更新而进行的重新采集，减轻了爬取目标服务器的负担，也避免了可能造成的网络虚拟财产损失。 | ||
| 搜索关键词： | 一种 基于 代理 http 报文 采集 方法 终端设备 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于厦门市美亚柏科信息股份有限公司，未经厦门市美亚柏科信息股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110158253.1/，转载请声明来源钻瓜专利网。
- 上一篇：一种可以自动调节刀辊间距的土壤修复机
- 下一篇：一种污泥固废颗粒存贮装置
