[发明专利]基于Scrapy的数据爬取方法、终端设备及计算机可读存储介质在审
| 申请号： | 201910294765.3 | 申请日： | 2019-04-12 |
| 公开（公告）号： | CN110147476A | 公开（公告）日： | 2019-08-20 |
| 发明（设计）人： | 董润华;徐国强;邱寒 | 申请（专利权）人： | 深圳壹账通智能科技有限公司 |
| 主分类号： | G06F16/951 | 分类号： | G06F16/951 |
| 代理公司： | 深圳市沃德知识产权代理事务所(普通合伙) 44347 | 代理人： | 高杰;于志光 |
| 地址： | 518000 广东省深圳市*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种数据爬取技术领域，揭露了一种基于Scrapy的数据爬取方法，该方法包括：在爪哇脚本对象简谱JSON文件中对基于Scrapy框架的爬虫文件的配置参数进行定义；对所述JSON文件进行命名，创建爬虫文件，并将所述爬虫文件的名称按照所述JSON文件的名称进行命名；将所述JSON文件的配置参数导入所述爬虫文件；运行导入配置参数后的爬虫文件，爬取网页数据。本发明还提供一种终端设备及计算机可读存储介质。本发明提供的基于Scrapy的数据爬取方法、终端设备及计算机可读存储介质，能够通过JSON文件定义Scrapy文件的配置参数，JSON文件集合了一个爬虫文件所需的配置文件，提高代码编写效率，降低漏洞数量，提高爬取网页数据的效果。 | ||
| 搜索关键词： | 爬虫 配置参数 计算机可读存储介质 终端设备 网页数据 简谱 代码编写 脚本对象 配置文件 文件集合 漏洞 创建 | ||
【主权项】：
1.一种基于Scrapy的数据爬取方法，其特征在于，所述方法包括步骤：在爪哇脚本对象简谱JSON文件中对基于Scrapy框架的爬虫文件的配置参数进行定义；对所述JSON文件进行命名，创建爬虫文件，并将所述爬虫文件的名称按照所述JSON文件的名称进行命名；将所述JSON文件的配置参数导入所述爬虫文件；运行导入配置参数后的爬虫文件，爬取网页数据。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司，未经深圳壹账通智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910294765.3/，转载请声明来源钻瓜专利网。
