[发明专利]一种基于图理论和SOM网络的文本聚类方法

说明书

一种基于图理论的SOM算法涉及机器学习领域和离散数学领域，其包括如下步骤：步骤1、获取文本数据，并对数据进行分词、去除停用词处理；步骤2、使用word2vec方法生成文本数据内每个词对应的词特征向量表达，用于词与词之间关系的度量；步骤3、将步骤1和2得到的词特征向量表达数据由输入层采用全连接的方式输入到竞争层；步骤4、训练SOM网络，并将SOM网络的输出作为图切割层的输入；步骤5、在图切割层对由SOM网络的输出构成的无向图进行图切割；步骤6、将图切割层得到的矩阵输入到输出层，在输出层采用WTA(Winner Takes All)机制得到最终聚类结果。本发明解决文本聚类时最佳聚类数目不易确定的问题。

技术领域：

本发明涉及机器学习领域和离散数学领域，即通过图论和SOM算法相结合解决文本聚类问题。解决了文本聚类时最佳聚类数目不易确定的问题，即本发明所提出的算法在训练过程中无需给定准确的网络单元数目和结构形状，也可得到最好的聚类结果。

背景技术：

在这个信息化、数据化的时代中，我们的日常生活方式越来越方便，从信息的获取到网络和数字图书馆的日益普及，计算机技术的发展正在潜移默化的改变着我们的生活，同时也带给我们海量的文本信息数据。但现实中我们所获得的大量文本数据没有标签数据，因此对海量无标签的文本数据进行聚类显得尤为重要。目前许多学者已经提出了很多聚类算法以及其改进算法并将其应用于文本聚类，其中最典型的聚类算法包括K-Means聚类、层次聚类、t-SNE聚类、DBSCAN聚类等。近年来，随着神经网络的快速发展，许多学者也在尝试研究基于神经网络的聚类算法。而基于神经网络的聚类法中最典型的算法是自组织映射算法。自组织映射(Self-organizing Maps,SOM)算法由芬兰赫尔辛基大学教授TeuvoKohonen于1981年提出后，现在已成为应用最广泛的自组织神经网络方法，其中的WTA(Winner Takes All)竞争机制反映了自组织学习最根本特征。该算法根据人脑神经元的特点无监督地、自组织地进行学习。但该算法也存在许多不足之处，如训练过程中会产生死神经元、训练开始时需预先给定网络单元数目及其结构形状等，目前很多学者提出了很多相应的改进算法，其中最典型的算法有FKCM(Fuzzy Kohnen Clustering Network)、TGSOM、GCS(Growing Cell Structure)、Kohonen SOFM-C、LVQ(Learn Vector Quantification)和VR2SOM算法等，这些改进算法极大的提高了SOM算法的性能。

本发明在已有的研究成果上提出了一种基于图理论的SOM聚类算法用于解决文本聚类问题，本发明中通过图理论的方式解决了SOM聚类算法训练开始时预先给定网络单元数目及其结构形状的问题，此外，该方法也可用于解决文本聚类时最优聚类簇数不易确定的问题。

发明内容：

1、一种基于图理论的SOM聚类算法在文本聚类中的应用，其特征在于，具体包含以下步骤：

步骤1、获取文本数据，并对数据进行分词、去除停用词处理；

步骤2、使用word2vec方法生成文本数据内每个词对应的词特征向量表达，用于词与词之间关系的度量；

步骤3、将步骤1和2得到的词特征向量表达数据由输入层采用全连接的方式输入到竞争层，并多次迭代训练SOM网络；

步骤4、将SOM网络的输出作为图切割层的输入；

步骤5、在图切割层对由SOM网络的输出构成的无向图进行图切割；

步骤6、将图切割层得到的矩阵输入到输出层，在输出层采用WTA(Winner TakesAll)机制得到最终的聚类结果。

2、进一步，步骤3具体包括：