[发明专利]一种用于IDC有害信息监测平台的数据分析系统

摘要

本发明公开了一种用于IDC有害信息监测平台的数据分析系统，其中有害信息搜索单元还包括关键字筛选器、标签字段筛选器、元数据字段筛选器和时间筛选器中的一种或多种的组合，通过多种筛选器及其组合完成精确搜索；关键字处理单元用于生成关键字搜索指令，有害信息搜索单元根据该关键字搜索指令执行有害信息搜索任务；模糊匹配单元用于根据输入的搜索字符串匹配相近似的近似词汇，使有害信息搜索单元对搜索字符串进行搜索的同时，还完成近似词汇的搜索，并返回近似词汇搜索结果；自动分词单元用于将输入的搜索字符串进行自动提取关键字，使有害信息搜索单元根据该自动提取关键字完成精确搜索。

主权项

一种用于IDC有害信息监测平台的数据分析系统，其特征在于：它包括有害信息搜索单元、自动分词单元、关键字处理单元和模糊匹配单元；有害信息搜索单元包括本地搜索端口和网络搜索端口，本地搜索端口用于启动本地爬虫结点的搜索引擎，在本地执行该有害信息搜索任务；网络搜索端口用于启动多个爬虫结点的搜索引擎，通过多个爬虫结点同时执行该有害信息搜索任务，还通过该网络搜索端口将搜索结果返回到该本地爬虫结点；有害信息搜索单元还包括关键字筛选器、标签字段筛选器、元数据字段筛选器和时间筛选器中的一种或多种的组合，通过多种筛选器及其组合完成精确搜索；关键字处理单元用于生成关键字搜索指令，有害信息搜索单元根据该关键字搜索指令执行有害信息搜索任务；模糊匹配单元用于根据输入的搜索字符串匹配相近似的近似词汇，使有害信息搜索单元对搜索字符串进行搜索的同时，还完成近似词汇的搜索，并返回近似词汇搜索结果；自动分词单元用于将输入的搜索字符串进行自动提取关键字，使有害信息搜索单元根据该自动提取关键字完成精确搜索。