[发明专利]一种基于数据挖掘的语料库关键词自动抽取算法

说明书

一种基于数据挖掘的语料库关键词自动抽取算法，包括以下步骤：获取待处理文本；对获取的文本进行分词处理；对分词集合中的词语进行词性标注和词义标注；对分词集合进行去词处理；统计词频和词对的共现信息；设置词频阈值，并判断词汇集合中词语的词频是否大于词频阈值；生成候选关键词集合；获取各候选关键词在文本中的位置信息；计算各候选关键词在文本中的权重值；设置权重值阈值，并判断各候选关键词的计算结果是否大于权重值阈值；生成关键词集合。本发明优化了语料库关键词抽取算法，操作简便，能够自动从语料库中抽取关键词，省时省力，显著提高了关键词抽取的准确性。

技术领域

本发明涉及语料库关键词抽取技术领域，尤其涉及一种基于数据挖掘的语料库关键词自动抽取算法。

背景技术

现有的语料库关键词抽取算法较为复杂，难以快速的从其中抽取所需数据，不能自动从语料库中抽取关键词，抽取过程耗费的时间长，抽取效率低，抽取关键词的准确性也有待提高。

发明内容

(一)发明目的

为解决背景技术中存在的技术问题，本发明提出一种基于数据挖掘的语料库关键词自动抽取算法，优化了语料库关键词抽取算法，操作简便，能够自动从语料库中抽取关键词，省时省力，显著提高了关键词抽取的准确性。

(二)技术方案

为解决上述问题，本发明提出了一种基于数据挖掘的语料库关键词自动抽取算法，包括以下步骤：

S1、获取待处理文本；

S2、对获取的文本进行分词处理，获得分词集合；

S3、对分词集合中的词语进行词性标注和词义标注；

S4、对分词集合进行去词处理，获得词汇集合；

S5、基于词汇集合，统计词频和词对的共现信息；

S6、设置词频阈值，并判断词汇集合中词语的词频是否大于词频阈值；若词汇的词频小于或等于词频阈值，则剔除该词汇；

S7、对符合条件的词汇进行归纳整理，并生成候选关键词集合；

S8、获取各候选关键词在文本中的位置信息；

S9、根据词频、词对共现信息以及候选关键词所处位置信息，计算各候选关键词在文本中的权重值；

S10、设置权重值阈值，并判断各候选关键词的计算结果是否大于权重值阈值；若词汇的权重值小于或等于权重值阈值，则剔除该词汇；

S11、对符合条件的词汇进行归纳整理，并生成关键词集合。

优选的，S2的具体步骤如下：

将获取的文本分割成多个切分段落；

将每个切分段落分割成多个句子；

对每个句子分词并得到词的序列。

优选的，在S2中，通过jieba工具实现分词处理。

优选的，在S4中，通过stopwords工具实现去词处理。

优选的，在S4中，所要去除的词语包括停用词、语气词、HTML/XML标记、数字、时间和噪音词。

优选的，在S5中，统计词对的共现信息具体步骤如下：

对于每一个词对，根据构成词对的两个词在同一切分段落中的距离，计算该词对在切分段落中的共现次数，将该词对在所有切分段落中的共现次数累加，得到该词对在文本中的共现次数。

优选的，在S8中，其具体步骤如下：

分别获取候选关键词在各语句中的位置信息；