[发明专利]一种基于上下文信息和卷积神经网络的文本情感分类方法

说明书

本发明公开了一种基于上下文信息和卷积神经网络的文本情感分类方法，步骤包括：1)文本预处理；2)文本的词向量表示；3)文本的上下文信息生成；4)神经网络模型训练和分类。本发明在词向量基础上，抽取文本的上下文信息，并将多种不同尺度的卷积核融入卷积神经网络中，既能利用文本中更丰富的语义信息，又能捕获词语之间在不同尺度的关系，实现更准确的文本情感分类。

技术领域

本发明属于自然语言处理技术与模式识别领域，具体地说是一种基于上下文信息和卷积神经网络的文本情感分类方法。

背景技术

文本是互联网上信息传递的一种主要形式。与图像、声音等信息传递形式相比，文本数据量较小，但可以包含大量信息，而且可以更容易表达用户观点。互联网上存在大量带有情感倾向性的文本，这些情感倾向性文本往往以商品评论、论坛评论和博客等各种形式存在。文本情感分类是根据文本内容所体现的用户意见的情感极性将其分为正面、中性和负面三类。由于巨大的商业价值，近年来，文本情感分类在自然语言处理研究领域得到了很大的关注。传统情感分类包括支持向量机(SvM)、决策树、朴素贝叶斯分类器等。然而这些方法都存在一定缺陷，如SvM在建模复杂非线性问题时表达能力不足，决策树在噪声情况下容易出现过拟合，朴素贝叶斯分类器需要属性的独立性假设。相比传统分类方法，近年来兴起的深度学习模型则表现出了良好的自适应性和容错性。

大多数基于深度学习的文本情感分类方法直接将文本表达为词向量矩阵，并利用卷积神经网络分类。词向量是采样神经网络语言模型和N-gram语言模型将每个词语都表示成一个实数向量。然而，这种方法没有充分挖掘文本的上下文语义信息，难以表达文本中复杂的情感，使得文本情感分类的准确率仍存在提高的空间。

发明内容

本发明为克服现有技术存在的不足之处，提出一种基于上下文信息和卷积神经网络的文本情感分类方法，以期能进一步提高文本情感分类的准确性。

本发明为解决技术问题采用如下技术方案：

一种基于上下文信息和卷积神经网络的文本情感分类方法，按如下步骤进行：

步骤1：获取文本集合D＝{D₁，D₂，…，D_N{及对应的情感标签集合Y＝{y₁，y₂，…，y_N{，D_t表示第t个文本，y_t表示第t个文本的情感极性：如果D_t的情感为正面，则y_t＝1，如果D_t的情感为负面，则y_t＝2，如果D_t的情感为中性，则y_t＝3，1≤t≤N，N为文本集合D中的文本总数；

步骤2：对文本集合D中的每个文本D_t进行分词，并对分词结果进行去除停用词，从而获得第t个文本D_t所包含的词语序列d_i表示D_t中的第i个词语；1≤i≤m_t，m_t为去除停用词后D_t中包含的词语总数，也就是文本D_t的长度；

步骤3：取文本集合D中的最长文本长度为H，将每个文本的词语序列转换成固定长度{d₁，d₂，…，d_H}，如果m_t＜H，则在词语序列后面补H-m_t个字符NULL；

步骤4：通过查表的方式得到文本D_t的词向量矩阵V_t＝[v₁，v₂，…，v_H]∈R^H×p，其中v_i∈R^p为词语d_i的词向量表示，NULL对应的词向量为全0的p维向量；