[发明专利]基于卷积神经网络的文本分类方法、装置、介质和设备

说明书

本发明提供了一种基于卷积神经网络的文本分类方法、装置、介质和设备，其中，该方法包括：获取与网络舆情相关的待分类文本的词向量矩阵；根据词向量矩阵构造初始特征矩阵，将初始特征矩阵作为训练后的文本分类模型的输入并输入至第一顺位的区域块，并确定区域块的输出；区域块中每个隐含层的输入来自于区域块内所有其他隐含层的输出；将当前区域块的输出作为下一个区域块的输入，直至确定所有区域块的输出，并将所有区域块的输出传至全连接层，根据所有区域块的输出确定分类结果。该方法采用的网络结构可以使得网络特征和梯度的传递更加有效，避免了损失函数信息逐层传递造成的梯度消失问题，保证了扩大网络深度的同时能够避免梯度消失问题。

技术领域

本发明涉及文本分类技术领域，特别涉及一种基于卷积神经网络的文本分类方法、装置、介质和设备。

背景技术

随着移动互联网技术的发展，网络信息呈爆发式的增长，网络中充斥了大量有用或无用的文本；例如，网络舆情作为社会舆论的一种表现形式，公众基于互联网对当下流行的社会问题发表不同的看法或网络舆论。由于网络文本信息量巨大，需要对网络信息进行快速、准确地分类。文本分类作为自然语言处理的关键技术之一，能够有效解决信息杂乱等问题，并广泛应用于搜索引擎、垃圾邮件过滤、个性化新闻和资料分拣等任务中。

当前的文本分类模型一般基于词袋模型和循环神经网络模型为主，而词袋模型没有考虑词的位置因素，且文本特征是0阶统计的；而循环神经网络的计算效率较低，参数较多不容易调参，且随着不断迭代会导致梯度越来越小，即出现梯度消失问题。假如采用传统卷积神经网络模型(CNN)单纯地增加网络层，也会导致梯度消失和准确率下降的问题，该方式也不能提高文本分类的效果。

发明内容

本发明提供一种基于卷积神经网络的文本分类方法、装置、介质和设备，用以解决现有利用卷积神经网络的文本分类模型存在梯度消失问题的缺陷。

本发明提供的一种基于卷积神经网络的文本分类方法，包括：

获取与网络舆情相关的待分类文本，确定所述待分类文本的词向量矩阵；

根据所述词向量矩阵构造初始特征矩阵，将所述初始特征矩阵作为训练后的文本分类模型的输入，所述文本分类模型包括依次连接的区域块和与所有区域块输出端连接的全连接层，所述全连接层的输出为所述文本分类模型的输出；

将所述文本分类模型的输入作为第一顺位的区域块的输入，并确定所述区域块的输出；所述区域块包含多个隐含层，且每个隐含层的输入来自于所述区域块内所有其他隐含层的输出；

将当前区域块的输出作为下一个区域块的输入，继续确定下一个区域块的输出，直至确定所有区域块的输出，并将所有区域块的输出传至全连接层；

所述文本分类模型的全连接层根据所有区域块的输出确定所述待分类文本的分类结果。

在一种可能的实现方式中，在所述将所述初始特征矩阵作为训练后的文本分类模型的输入之前，该方法还包括：

构建初始模型，所述初始模型包括依次连接的区域块和与所有区域块输出端连接的全连接层，全连接层的输出为所述初始模型的输出；

获取词向量预设矩阵，通过将所述词向量预设矩阵作为所述初始模型的输入、将相应分类预设结果作为所述初始模型的输出，对所述初始模型进行训练，确定所述初始模型的模型参数，将确定模型参数的初始模型作为文本分类模型。

在一种可能的实现方式中，所述确定所述待分类文本的词向量矩阵包括：

依次将所述待分类文本中的每个词转换为词向量，并将所述待分类文本的一个句子中所有词向量顺序拼接形成相应的句子序列；

对所有的所述句子序列进行尾部补零处理，尾部补零处理后的句子序列具有相同的序列长度；