[发明专利]一种基于图核和卷积神经网络的文本分类方法

说明书

本发明涉及一种基于图核和卷积神经网络的文本分类方法，属于数据挖掘和信息检索技术领域。核心思想为：首先将文本预处理为图结构的表示方式，其中，图中的节点与文本中的词相对应；再基于图结构计算节点的权重，之后使用社区发现算法将图结构分解成多个子图，并使用图核技术将图映射到高维空间，得到图的张量表达，最后将该张量表达输入到卷积神经网络，对图特征进行深度挖掘，输出文本的类别。本发明与现有技术相比，能够充分利用文本的内部结构和上下文语义，使文本内容得以充分表达；使节点信息更加合理；有效解决了文本分类中复杂繁琐的处理过程。

技术领域

本发明涉及文本的分类方法，尤其涉及一种基于图核和卷积神经网络的文本分类方法，属于数据挖掘和信息检索技术领域。

背景技术

随着大数据时代的到来，信息量爆发式增长，信息处理的方式由传统的人工处理方式逐渐向自动化处理方式过渡。文本分类作为信息处理的重要任务，其目的在于自动分类无标签文档到预定的类别集合中，可以在较大程度上解决信息杂乱的现象，进而实现对海量信息的高效管理，文本分类技术目前已经广泛应用到信息过滤、信息检索、话题检测与追踪等领域。

目前的文本分类技术主要有三种：基于规则的文本分类方法、基于统计的文本分类方法和基于神经网络的文本分类方法。基于规则的方法是一种确定性的推理方法，根据上下文对确定性事件进行定性描述，从而进行归纳总结。常见的方法有决策树，关联规则等。基于统计的方法是一种基于概率的定量推理方法，通过概率的比较掩盖小概率事件的发生。其优点是通过大规模语料库的分析得出经验概率，对分类结果提供了比较客观的数据支撑。常用的方法有朴素贝叶斯，K-近邻算法，支持向量机等。基于神经网络的方法是通过模拟人脑神经网络，建立网络模型从而对数据进行智能的分类。常用的方法有卷积神经网络、循环神经网络等。

文本分类的基础任务是将文档转换成计算机能够识别的表达方式，合理有效的文本表示是保证文本分类质量的重要前提，目前的文本表示方法总体上可分为基于特征向量的传统文本表示方法和基于图结构的文本表示方法。

基于特征向量的传统文本表示方法有向量空间模型和布尔模型。向量空间模型将文档表示为特征空间中的一个向量，特征可以是字、词、短语等，特征的权重可以是词频、语义重要度等；布尔模型是向量将文档表示为一个特征的二值变量集合，文档中出现相应特征，则特征变量置为1，否则为0。这两种模型都依赖于词袋模型，词袋模型虽然表达形式简单、计算量小，但是没有考虑文本的内部结构和上下文语义，会造成信息流失，影响文本内容的充分表达。

基于图结构模型的文本表示方法近年来成为研究热点，将文档表示为图结构，既保留了原始文档中单词本身所包含的信息，也增加了单词之间的结构关系，具有较强的表达能力和较高的灵活性，丰富了所能表达的语义信息。把文本数据转换成图数据，就是把对文本数据的分析转换成了对图数据的分析。

对于文本分类的问题，现有技术主要是把文本表示成向量空间模型，这种表达方式丢失了文本的语义结构信息，本发明提出一种基于图核和卷积神经网络的文本分类方法，可有效地保留了文本的语义结构，提升分类准确度。

发明内容

本发明的目的是克服现有技术中将文本表示成向量空间模型的表达方式丢失文本语义结构信息的技术缺陷，提出了一种基于图核和卷积神经网络的文本分类方法。

本发明的核心思想为：首先将文本预处理为图结构的表示方式，其中，图中的节点与文本中的词相对应，再基于图结构计算节点的权重，之后使用社区发现算法将图结构分解成多个子图，并使用图核技术将图映射到高维空间，得到图的张量表达，最后将该张量表达输入到卷积神经网络，对图特征进行深度挖掘，输出文本的类别。

一种基于图核技术与神经网络相结合的文本分类算法，包括以下步骤：

步骤一、通过文本分词、去除文本中的停用词、标点和数字，以及创建图将文本转化为图结构，具体为：

步骤1.1文本分词，把整篇的文章分割成词的序列；