[发明专利]一种网络信息数据分类采集方法在审

专利信息
申请号: 202011565108.7 申请日: 2020-12-25
公开(公告)号: CN112632356A 公开(公告)日: 2021-04-09
发明(设计)人: 李锦基;黄永权;王勋;符伟杰;骆新坤;李明东 申请(专利权)人: 深圳市高德信通信股份有限公司
主分类号: G06F16/951 分类号: G06F16/951;G06F16/958
代理公司: 北京鼎佳达知识产权代理事务所(普通合伙) 11348 代理人: 侯蔚寰
地址: 518000 广东省深圳市罗湖区黄贝街道新秀社*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 网络 信息 数据 分类 采集 方法
【权利要求书】:

1.一种网络信息数据分类采集方法,其特征在于:包括以下步骤:

步骤1:采集准备:在云服务器内部创建数据库,云服务器的内部运行着信息采集分类软件,信息采集分类软件的信息采集端采用多个网络爬虫,每个网络爬虫对应至少一个分类参数,确定每一个分类参数对应的参数值;

步骤2:搭建链接:先是确定需要采集网络信息数据的类型,然后选择适合采集网络信息数据的网站或网络地址,通过信息采集分类软件与相应的网站、网络地址建立链接,按照数据种类分别设置多个网络爬虫,每个网络爬虫负责一类或两类数据的采集;

步骤3:数据采集:网络爬虫可以直接进入网站或网络地址的目标列表页面及其分页页面,可以对网络信息进行纵、横双向的数据与信息抓取,然后将相应的信息数据传输回数据库;

步骤4:分类存储:数据库内部按照分类需要事先划分好各个分类目录,每个网络爬虫传输回的信息数据直接存储在相应分类的目录下,使用者可以按照需要选择合适的分类软件对数据库内部的数据进行再次分类显示输出。

2.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤1中,确定每一个分类参数对应的参数值,确定待采集数据所在的目标网站或网络地址;在目标网站或网络地址中获取待采集数据对应的列表页面;在列表页面中逐个选择每一个分类参数,得到每一个分类参数对应的分类链接;根据得到的各个分类链接,确定每一个分类参数对应的参数值。

3.根据权利要求2所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤1中,根据每一个分类参数和对应的参数值,生成各个分类参数分别对应的链接,分别针对每一个当前分类参数及对应的当前参数值,将当前分类参数、当前参数值以及设定的字符按设定形式进行拼接;将拼接后的内容添加到当前分类参数对应的分类链接中,得到当前分类参数对应的入口链接。

4.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,需要采集的信息是收费信息时,可以通过云服务器内部的安全支付软件进行支付。

5.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,重复的信息数据经过专门的软件进行过滤剔除,相似的信息进行合并。

6.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,网络爬虫针对每一个链接,逐个采集相应分类参数所对应的数据。

7.根据权利要求6所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤3中,信息数据采集时,获取当前链接对应的目标列表页面,目标列表页面中包括至少一个分页页面;对每一个分页页面中的详情链接进行访问,并对访问的详情链接进行数据采集。

8.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤4中,原始的信息数据存储在云服务器,信息采集分类软件通过分类存储对采集的信息数据进行分类存储。

9.根据权利要求1所述的一种网络信息数据分类采集方法,其特征在于:所述在步骤4中,用户可以订阅同一种类别的信息数据,当该信息数据更新时,及时推送更新。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市高德信通信股份有限公司,未经深圳市高德信通信股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011565108.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top