[发明专利]一种网络信息数据分类采集方法在审
申请号: | 202011565108.7 | 申请日: | 2020-12-25 |
公开(公告)号: | CN112632356A | 公开(公告)日: | 2021-04-09 |
发明(设计)人: | 李锦基;黄永权;王勋;符伟杰;骆新坤;李明东 | 申请(专利权)人: | 深圳市高德信通信股份有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/958 |
代理公司: | 北京鼎佳达知识产权代理事务所(普通合伙) 11348 | 代理人: | 侯蔚寰 |
地址: | 518000 广东省深圳市罗湖区黄贝街道新秀社*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 信息 数据 分类 采集 方法 | ||
1.一种网络信息数据分类采集方法,其特征在于:包括以下步骤:
步骤1:采集准备:在云服务器内部创建数据库,云服务器的内部运行着信息采集分类软件,信息采集分类软件的信息采集端采用多个网络爬虫,每个网络爬虫对应至少一个分类参数,确定每一个分类参数对应的参数值;
步骤2:搭建链接:先是确定需要采集网络信息数据的类型,然后选择适合采集网络信息数据的网站或网络地址,通过信息采集分类软件与相应的网站、网络地址建立链接,按照数据种类分别设置多个网络爬虫,每个网络爬虫负责一类或两类数据的采集;
步骤3:数据采集:网络爬虫可以直接进入网站或网络地址的目标列表页面及其分页页面,可以对网络信息进行纵、横双向的数据与信息抓取,然后将相应的信息数据传输回数据库;
步骤4:分类存储:数据库内部按照分类需要事先划分好各个分类目录,每个网络爬虫传输回的信息数据直接存储在相应分类的目录下,使用者可以按照需要选择合适的分类软件对数据库内部的数据进行再次分类显示输出。
2.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤1中,确定每一个分类参数对应的参数值,确定待采集数据所在的目标网站或网络地址;在目标网站或网络地址中获取待采集数据对应的列表页面;在列表页面中逐个选择每一个分类参数,得到每一个分类参数对应的分类链接;根据得到的各个分类链接,确定每一个分类参数对应的参数值。
3.根据权利要求2所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤1中,根据每一个分类参数和对应的参数值,生成各个分类参数分别对应的链接,分别针对每一个当前分类参数及对应的当前参数值,将当前分类参数、当前参数值以及设定的字符按设定形式进行拼接;将拼接后的内容添加到当前分类参数对应的分类链接中,得到当前分类参数对应的入口链接。
4.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,需要采集的信息是收费信息时,可以通过云服务器内部的安全支付软件进行支付。
5.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,重复的信息数据经过专门的软件进行过滤剔除,相似的信息进行合并。
6.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,网络爬虫针对每一个链接,逐个采集相应分类参数所对应的数据。
7.根据权利要求6所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,信息数据采集时,获取当前链接对应的目标列表页面,目标列表页面中包括至少一个分页页面;对每一个分页页面中的详情链接进行访问,并对访问的详情链接进行数据采集。
8.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤4中,原始的信息数据存储在云服务器,信息采集分类软件通过分类存储对采集的信息数据进行分类存储。
9.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤4中,用户可以订阅同一种类别的信息数据,当该信息数据更新时,及时推送更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市高德信通信股份有限公司,未经深圳市高德信通信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011565108.7/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置