[发明专利]一种爬虫自动化脚本的检测方法及装置有效
申请号: | 202011534783.3 | 申请日: | 2020-12-22 |
公开(公告)号: | CN112487269B | 公开(公告)日: | 2023-10-24 |
发明(设计)人: | 许建兵;李军;李强;陶飞;戴磊;王磊 | 申请(专利权)人: | 安徽商信政通信息技术股份有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/9035;G06F8/30;G06F8/73;G06F40/284;G06F40/186 |
代理公司: | 北京知联天下知识产权代理事务所(普通合伙) 11594 | 代理人: | 史光伟;张迎新 |
地址: | 230000 安徽省合肥市高新*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种爬虫自动化脚本的检测方法及装置,该方法包括:通过建立数据规则库构造通用化采集脚本,并对通用化采集脚本测试验证;收集目标分配的主网址,将主网址存入储存字段工具中;运用计算机程序设计语言读取所述储存字段工具中的数据,将数据嵌入到采集脚本,生成自动化脚本;测试生成的所述自动化脚本,查看自动化脚本的所需数据字段是否满足要求,将满足要求的所需数据字段进行整理和入库。通过自动化爬虫生成脚本能够大幅度降低主流爬虫的采集数据压力和资源耗费,减少了采集时间,提升了准确率;生成脚本过程中不需要生成多种数据采集脚本类型,可复用性强以及和后期修改方式统一;节省了人力、财力以及克服了时效性差的弊端。 | ||
搜索关键词: | 一种 爬虫 自动化 脚本 检测 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽商信政通信息技术股份有限公司,未经安徽商信政通信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011534783.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种智能泡茶机
- 下一篇:应用于交通的智能飞行器及飞行控制方法