[发明专利]一种基于图神经网络节点特征传播优化的文本分类方法

说明书

本发明提出一种基于图神经网络节点特征传播优化的文本分类方法，解决了现有文本分类方法不能兼顾分类准确度和分类效率的问题，包括:获取文本数据集，构成以文本节点、单词节点为基础的二元异构图，利用二元异构图形成对应的邻接矩阵A；将邻接矩阵A拆解，构建图神经网络节点特征传播优化模型；对图神经网络节点特征传播优化模型进行训练；利用训练好的图神经网络节点特征传播优化模型对文本数据集进行分类。本发明将文本分类问题转换为节点分类问题，在保持节点分类的准确度下，提高节点特征传播的效率，从而提高文本分类的速度，同时减少文本标注数量，从而减少标注成本。

技术领域

本发明涉及深度学习及文本分类的技术领域，更具体地，涉及一种基于图神经网络节点特征传播优化的文本分类方法。

背景技术

文本分类是自然语言处理的一个基础服务，其目的是区分句子的类别。目前，在许多自然语言处理的人工智能应用中，文本分类是所有涉及自然语言处理领域工作必须首选攻克的难题。

因为文本分类是理解句子中的语义信息，通过提取有效的关键词，才能更好应用于其他上层任务。例如智能客服，它必须对用户的回答进行分类，方可作出符合人们期望的应答。目前在文本领域中，深度学习技术在其上面的表现尤其优秀，深度学习技术利用神经网络通过大量的标签数据充分拟合数据分布情况，可以有效提取句子的特征信息，避免花费大量时间在人工提取特征等类似的特征工程上，但是深度学习想要充分拟合数据，则需要大量的标签数据，在现实生活中，如果需要给数据打标签，不但效率低下并且需要浪费许多时间以及金钱，2018年，Yao L,Mao C,Luo Y在The Thirty-Third AAAI Conference onArtificial Intelligence上发表Graph Convolutional Networks for TextClassification的文章，首次将整个语料库建模为异构图，并通过图神经网络共同学习单词和文档嵌入，将文本分类问题转换为节点分类问题，该方法相对于普通文本分类模型，可以用较少数量标记的文档实现强大的分类性能，却未考虑在更少标注成本的情况，也未考虑训练占用的资源量和训练速度，无法兼顾文本分类准确度和分类效率。

发明内容

为解决现有文本分类方法不能兼顾分类准确度和分类效率的问题，本发明提出一种基于图神经网络节点特征传播优化的文本分类方法，将文本分类问题转换为节点分类问题，在保持节点分类的准确度下，提高节点特征传播的效率，从而提高文本分类的速度，同时减少文本标注数量，从而减少标注成本。

为了达到上述技术效果，本发明的技术方案如下：

一种基于图神经网络节点特征传播优化的文本分类方法，至少包括:

S1.获取文本数据集，构成以文本节点、单词节点为基础的二元异构图，利用二元异构图形成对应的邻接矩阵A；

S2.将邻接矩阵A拆解，构建图神经网络节点特征传播优化模型；

S3.对图神经网络节点特征传播优化模型进行训练；

S4.利用训练好的图神经网络节点特征传播优化模型对文本数据集进行分类。

优选地，步骤S1还包括：获取文本数据集后，将文本数据集划分为有标签的训练集及无标签的测试集。

优选地，步骤S1所述以文本节点、单词节点为基础的二元异构图的形成过程为：

S11.将文本数据集所有句子中的单词转换为小写字母，并用统一字符替代标点符号；

S12.利用TF-IDF算法得到单词节点相对文本节点的重要性权重，作为文本节点-单词节点的关系权重；

S13.利用点互信息算法得到单词节点-单词节点之间的影响力权重，作为单词节点-单词节点的关系权重；