[发明专利]一种文本分类方法

说明书

本发明提供了一种构建文本分类模型的方法。该方法包括以下步骤：根据文本信息的字、词语和句子的结构特征构建训练样本集，其中，所述训练样本集中的每一条样本数据对应一条文本信息关于词语的特征矩阵A、关于字的特征矩阵B和该条文本信息对应的类别向量O，O的维度与类别数量相同；以所述训练样本集中关于词语的特征矩阵A和关于字的特征矩阵B为输入，以对应的类别向量O为输出，训练深度学习模型，以获得文本分类模型。根据本发明构建的分类模型进行分类，能够提高文本分类的准确率，尤其适用于短文本分类。

技术领域

本发明涉及深度学习技术领域，尤其涉及一种文本分类方法。

背景技术

文本分类是指按照预先定义的主题类别，为文档集合中的每个文档确定一个类别。文本分类技术在日常生活中具有广泛的应用，例如，对垃圾短信和邮件的过滤，对新闻的分组查阅等等。

随着微博、微信等社交方式的快速发展，短文本成为一种重要的信息形式，短文本通常具有的特点包括：字数少，短文本的长度通常都比较短，一般在200字以内，因此，所包含的有效信息也非常少；更新快，在互联网上出现的短文本形式的信息，大部分都是实时更新的，刷新速度非常快，例如，聊天信息、微博信息、评论信息等，并且文本数量非常庞大；不规范，短文本中可能存在不规范用语，例如“94”代表“就是”，“88”代表“再见”，“童鞋”代表“同学”，又如“伤不起”、“有木有”、“坑爹”等。

在现有技术中的文本分类方法中，文本分类准确率不高，尤其对短文本分类的效果不理想，目前，常用的短文本分类方法有：

第一、基于关键词匹配的文本分类方法，这是一种比较传统的方法，需要人工配置某些关键词，然后与每个需要分类的文本进行关键词匹配，匹配到不同的关键词之后再根据关键词的性质将文本划分为不同的类别。这种方法需要人工构造关键词的字典，而且对于新出现的词需要不断地更新字典，不能保证分类结果的准确性，人工成本也很高，对于快速更新的大数据量的短文本，这种方式存在很明显的速度慢的问题。

第二、基于传统机器学习的文本分类方法，该方法将传统的机器学习，例如，分类模型的朴素贝叶斯、支持向量机(SVM)、K近邻、逻辑回归等方法应用到文本分类中。这种方法操作简单，计算复杂度低，但有很大的局限性，例如，朴素贝叶斯解决文本分类问题时必须满足位置独立性和条件独立性的假设，但是这两种假设在实际中并不成立，而且，大多数传统的机器学习方法都是针对小规模、单标号且平衡的问题设计的，对于大规模的短文本数据，高维度的特征表示有很大的局限性。此外，基于传统机器学习的文本分类方法在数据预处理上需要花费大量的时间，对文本特征的提取也有很严格的要求，而特征提取的恰当与否对于分类结果会有很大的影响。

第三、基于深度学习的文本分类方法，该方法将深度学习，例如全连接神经网络、卷积神经网络(CNN)、循环神经网络(RNN)等应用到文本分类中，使用神经网络处理文本分类时，不需要将大量时间放到数据的预处理上，将数据输入到神经网络之后，就可以自动抽取到有价值的特征，然后再进行后续的分析处理。尽管这种方法在一定程度上弥补了很多传统机器学习的缺点，但是对于全连接神经网络和卷积神经网络而言，神经网络的数据是文本的高维向量表示，并没有考虑到语序问题，而一段文本文档中的词语的语序往往蕴含了大量的有价值信息，其表述思想与上下文紧密相关。现有的这种基于深度学习的分类方法会导致丢失大量的有价值的信息，进而使分类结果不准确。

因此，需要对现有技术进行改进，以提供分类准确度高的文本分类方法，并且使其更适用于短文本分类。

发明内容

本发明的目的在于克服上述现有技术的缺陷，提供一种文本分类方法，能够有效的避免文本信息的丢失，实现高容错的效果，该方法尤其适用于短文本的分类场景。

根据本发明的第一方面，提供了一种构建文本分类模型的方法。该方法包括以下步骤：