[发明专利]一种文本分类方法及系统

说明书

本发明实施例提供一种文本分类方法及系统，其步骤包括：获取待分类文本；向量化所述待分类文本；通过双向长短期记忆网络层提取深层次特征；根据待分类文本的词汇依存关系及深层次特征构建文本邻接矩阵；通过由图卷积网络构成的隐藏层，进一步提取隐藏层特征；结合注意力机制，得到词汇在文本分类时的贡献率向量；进一步根据贡献率向量，得到文本分类向量；将文本分类向量经全连接层及归一化，得到文本分类结果。本发明通过在传统图卷积网络模型基础上引入双向长短期记忆网络、词性信息和词汇间的依存关系，构建文本分类网络模型，解决传统图卷积网络模型的上下文依赖问题和词汇多义性问题，从而明显提高图卷积网络在文本分类上的分类效果。

技术领域

本发明涉及互联网文本分类领域，尤其涉及一种文本分类方法及系统。

背景技术

文本分类是自然语言处理的研究热点之一。社交媒体每天都会生成大量可量化和分析的非欧几里德结构数据，例如社交网络评论、商品评论、电子邮件记录、面试记录等。关于非欧几里德结构数据的研究主要基于传统机器学习分类方法与神经网络方法，例如支持向量机、卷积神经网络、循环神经网络、双向循环神经网络、长短期记忆网络、门控循环单、循环卷积神经网络、卷积循环神经网络等。然而，该类方法在处理基于图结构的非欧几里德结构数据的文本分类时，其适用性受到了极大的挑战。例如卷积神经网络模型在处理局部连接输入区域的卷积操作时，卷积核大小的固定导致其卷积操作所对应的局部区域也是固定的；而对于图结构数据，卷积神经网络模型无法保持平移不变性，进而无法直接利用卷积神经网络模型对数据进行高效处理。因此，为解决上述文本分类的瓶颈问题，基于传统图卷积网络模型的方法逐渐得到了研究人员的关注。通过将图结构看作一种特殊的谱图，则卷积神经网络模型可泛化到图结构数据上。传统图卷积网络模型通过逐层聚合邻域节点的特征实现中心节点多层信息的抽取，并同时对节点特征信息与结构信息实现端对端学习。同时，传统图卷积网络模型适用性较强，可广泛适用于任意拓扑结构的节点与图。

发明内容

本发明实施例提供一种文本分类方法及系统，通过在传统图卷积网络模型基础上引入双向长短期记忆网络、词性信息和词汇间的依存关系，解决了传统图卷积网络模型的上下文依赖问题和词汇多义性问题。

为实现上述目的，一方面，本发明实施例提供了一种文本分类方法，其步骤包括：

获取待分类文本；

将所述待分类文本向量化为文本嵌入矩阵；

将所述文本嵌入矩阵输入给双向长短期记忆网络层提取特征，得到文本特征矩阵；

解析所述待分类文本，得到词汇依存关系；

根据所述词汇依存关系及所述文本特征矩阵构建文本邻接矩阵；

将所述文本特征矩阵及所述文本邻接矩阵输入到图卷积网络中，得到隐藏层矩阵；

将注意力机制应用于所述文本特征矩阵及所述隐藏层矩阵，得到所述待分类文本的词汇在文本分类时的贡献率向量；

将所述文本特征矩阵与所述贡献率向量相乘，得到文本分类向量；

将所述文本分类向量输入到全连接层，所述全连阶层的输出经归一化，得到文本分类结果。

进一步地，所述文本嵌入矩阵包括：词汇嵌入矩阵及词性嵌入矩阵；

所述将所述待分类文本向量化为文本嵌入矩阵，包括：

将所述待分类文本向量化为所述词汇嵌入矩阵；以及，

标注所述待分类文本中词汇的词性，将所述词性向量化为所述词性嵌入矩阵。

进一步地，所述将所述文本嵌入矩阵输入给双向长短期记忆网络层提取特征，得到文本特征矩阵，具体为：

将所述词汇嵌入矩阵输入给双向长短期记忆网络层提取特征，得到词汇特征矩阵；