[发明专利]一种面向特定领域开放网络问句的文本分类方法

权利要求书

1.一种面向特定领域开放网络问句的文本分类方法，其特征在于，包括以下步骤：

步骤1：输入待分类的文本，判断该文本所属的领域；

步骤2：设定分类层次和分类类别；

在粗粒度层级上，依据分类任务的目标及待分类文本所属领域的边界，将该领域分为a+1类，其中a为任务所需的类别数，额外的1个类别代表领域之外；

在细粒度层级上，依照分类任务的目标及待分类文本所属领域的知识体系结构将每个粗粒度类别细分为b+1个子类，额外的1个类别代表父类与其b个子类的并集的差集；

步骤3：根据待分类文本所属领域，载入该领域开放网络问答文本集和书面文本集；

步骤4：将开放网络问答文本集分割成问答对；将书面文本集分割成书面篇章；

步骤5：基于句法特征，将所有问答对和书面篇章分割为各个句子，得到句子数据集；

步骤6：基于jieba分词模块，建立词典并利用隐马尔可夫模型和Viterbi算法对句子数据集执行分词，得到待分类文本所属领域的词向量数据集；

步骤7：清理待分类文本所属领域的词向量数据集中无效文本和符号；

步骤8：根据CBOW算法预训练待分类文本所属领域的词向量数据集，得到词向量形式的问句训练集；

步骤9：构建半监督的结合贝叶斯的卷积神经网络；

步骤10：将词向量形式的问句训练集输入半监督的结合贝叶斯的卷积神经网络中进行训练，得到待分类文本所属领域的开放网络问句文本分类器

步骤11：将待分类文本输入开放网络问句文本分类器中，得到分类结果。

2.根据权利要求1所述的一种面向特定领域开放网络问句的文本分类方法，其特征在于：所述的步骤10中将词向量形式的问句训练集输入半监督的结合贝叶斯的卷积神经网络中进行训练的具体步骤为：

步骤2.1：将词向量形式的问句训练集输入半监督的结合贝叶斯的卷积神经网络的输入层；

步骤2.2：在半监督的结合贝叶斯的卷积神经网络的输入层之后建立两层卷积隐藏层；两层卷积隐藏层执行卷积运算，它们各有r个随机初始化的P×K维的卷积核，其中卷积层通道数为r，卷积窗口大小P分别为P₁、P₂，分别获取细节特征和区域特征，词向量维度为K；

步骤2.3：在两层卷积隐藏层后各建立一层池化层，采用窗口大小同样为P的最大池化，然后将两个池化层的结果首尾拼接；

步骤2.4：重复执行卷积和最大池化的结构s次，得到特征矩阵M；将结果输入全局最大池化层，得到特征向量F；

步骤2.5：在池化层后再建立并行的卷积层C1和全连接的softmax层D1；

步骤2.6：将特征向量F输入全连接的softmax层D1，得到的C_粗维特征向量即为粗粒度分类的概率分布，其中C_粗为粗粒度类别数；

步骤2.7：将特征矩阵M输入卷积层C1，得到由(C_粗×C_细)个特征向量组成的权值矩阵；将权值矩阵输入全局最大池化层，得到表示粗粒度到细粒度的条件概率分布的(C_粗×C_细)维向量，其中C_细为细粒度的类别数；

步骤2.8：将C_粗维特征向量与(C_粗×C_细)维向量首尾拼接得到(C_粗×C_细)+C_粗维的向量V1；

步骤2.9：将向量V1输入到全连接的softmax层D1，得到预测细粒度分类的概率分布；

全连接的softmax层D1分类的卷积神经网络模型的最终损失是粗分类和细分类损失的加权和，以及一个无需标签的互斥性损失项使得预测概率尽可能地趋近只有一个元素为1，其余元素为0的形式；

loss＝λ^粗loss^粗+λ^细loss^细+λ^无loss^无

其中，f_j(x_i)为第8步中生成的预测概率向量的第j维元素；λ^粗和λ^细均为设定的权值；loss^粗和loss^细均为softmax层交叉熵损失函数。