[发明专利]一种用于IDC有害信息监测平台的爬虫系统

说明书

本发明公开了一种用于IDC有害信息监测平台的爬虫系统，它包括一个或多个爬虫集群，且每个爬虫集群均包括多个爬虫结点和一个爬虫根节点，形成一个分布式的数据采集网络，爬虫根节点用于对该爬虫集群中的爬虫结点进行控制和管理，爬虫结点用于采集网络中的有害信息，每个爬虫结点均包括多线程网页采集模块、网页库、编码识别处理模块、网页内容自动提取模块、URL过滤器、URL去重模块和URL调度模块。本发明提供了强大的数据收集功能，通过多个爬虫集群对动态网页和静态网页进行全面的实时监控。

技术领域

本发明涉及一种用于IDC有害信息监测平台的爬虫系统。

背景技术

随着网络的迅速发展，万维网成为大量信息的载体，如何有效地提取并利用这些信息成为一个巨大的挑战。搜索引擎作为一个辅助人们检索信息的工具成为用户访问万维网的入口和指南。但是，这些通用性搜索引擎也存在着一定的局限性。

面对日益活跃的网络社区环境，每个网民都可能成为有害信息的发布者和散布者，网络有害传播途径越来越广包括博客、新闻、论坛、微博、以及其他途径。网络爬虫是各种搜索引擎能够实现的先驱技术，大数据时代的来临以及互联网技术的飞速发展，使得网络爬虫具有更重大的研究意义。应对网页数据量增幅大、网络文本更新周期短以及网页结构动态变化等一系列挑战，高效率且不间断工作的网络爬虫成为有害信息挖掘的研究热点。

发明内容

本发明的目的在于克服现有技术的不足，提供一种用于IDC有害信息监测平台的爬虫系统，本系统提供了强大的数据收集功能，通过多个爬虫集群对动态网页和静态网页进行全面的实时监控。

本发明的目的是通过以下技术方案来实现的：一种用于IDC有害信息监测平台的爬虫系统，它包括一个或多个爬虫集群，且每个爬虫集群均包括多个爬虫结点和一个爬虫根节点，形成一个分布式的数据采集网络，其中，爬虫根节点用于对该爬虫集群中的爬虫结点进行控制和管理，爬虫结点用于采集网络中的有害信息。

本发明中，所述每个爬虫结点均由以下多种模块组成：

1、多线程网页采集模块，包括多种网页采集通道及网页解析模块，针对不同类型的网页，通过与其相匹配的网页采集通道和网页解析模块对其进行采集；

2、网页库，存储多线程网页采集模块所采集的网页；

3、编码识别处理模块，自动识别网页的编码类型，并对其进行编码转换处理；

4、网页内容自动提取模块，包括动态网页内容提取模块和静态网页内容提取模块，根据敏感词库抓取编码转换处理后存在有害信息网页的URL；

5、URL过滤器，过滤不需要下载的URL；

6、URL去重模块，用于判断过滤后的URL是否与URL存储器中所存储的URL一致，若一致则不再对该URL进行后续的处理；

7、URL调度模块，根据去重后的URL队列，控制多线程网页采集模块下载相应的网页。

所述爬虫结点还包括网页去重模块，用于判断网页内容是否与已下载过的网页内容一致，若一致则不再对该网页进行后续的处理，并从网页库中将其删除。

所述网页去重模块包括指纹计算模块、指纹库和指纹去重模块，指纹计算模块根据网页指纹算法，将网页的内容经过计算生成指纹，指纹去重模块将该生成指纹与指纹库中的指纹进行对比，若存在相同或相近似的指纹，则判断该网页内容已下载过，指纹库用于存储指纹数据，且每个爬虫结点的指纹库进行同步更新。

所述爬虫结点还包括标签计数器和标签计数日志文件，标签计数器用于记录网页库中的下载数，并将该数据记录在标签计数日志文件中。

所述爬虫结点还包括间隔抓取模块，间隔抓取模块通过网页评分和网站权重自动生成间隔规则，并控制网页内容自动提取模块对网页进行相应的间隔抓取。