[发明专利]一种基于融合注意力模型的中文文本分类方法

摘要

本发明公开了一种基于融合注意力模型的中文文本分类方法，通过分词预处理和分字预处理分别将文本切分为对应的词集合和字集合，并根据得到的词集合和字集合，采用特征嵌入的方法训练文本对应的词向量和字向量；采用双向门循环单元神经网络作为编码器分别对词向量和字向量进行语义编码，并采用词向量注意力机制和字向量注意力机制获取文本中的词注意力向量和字注意力向量；得到融合注意力向量；通过softmax分类器预测文本类别，解决了现有的中文文本分类方法忽略文本的字特征信息,导致提取的文本特征单一，难以涵盖文本所有的语义信息，并且没有重点关注对分类有明显贡献的特征，导致分类过程中存在较多的冗余特征的问题。

主权项

1.一种基于融合注意力模型的中文文本分类方法，其特征在于，具体包含如下步骤：步骤1，通过分词预处理和分字预处理分别将文本切分为对应的词集合和字集合；步骤2，根据得到的词集合和字集合，采用特征嵌入的方法训练文本对应的词向量和字向量，分别得到词向量集合和字向量集合；步骤3，分别对词向量和字向量进行语义编码，得到词向量语义编码集合、字向量语义编码集合；步骤4，根据词向量集合、词向量语义编码集合获取文本中的词注意力向量，根据字向量集合、字向量语义编码集合获取文本中的字注意力向量；步骤5，通过注意力融合方法将词注意力向量和字注意力向量进行融合，得到融合注意力向量；步骤6，通过softmax分类器预测文本类别。