[发明专利]一种结合监督学习的中文文本分类方法

权利要求书

1.一种结合监督学习的中文文本分类方法，其特征在于：具体包含如下步骤：

步骤1，获取网络上的文本语料，对m条文本语料进行分词并去除结构性词语；其中，m为正整数；

步骤2，利用word2vec算法获取m条文本语料中所有单词的词嵌入Xi，并构建一个d*n的词嵌入矩阵X，其中，d是每个词嵌入的维度，n是词嵌入的数目；

步骤3，生成每条文本语料的词袋模型向量nBOW；则m条语料生成m个nBOW，记为di，其中，im，给每个di标注标签yi；

步骤4，计算训练集参数ci，具体如下：ci＝Xdi；

步骤5，根据训练集参数ci生成训练集：trainning set＝{(c1,y1),(c2,y2),(c3,y3)...(cn,yn)}，其中n≤i；

步骤6，利用NCA算法对训练集进行训练，进而得到初始变换矩阵A₀，具体如下：A₀＝NCA(tranning set)；设w₀＝1，其中，w₀为初始权重向量；

步骤7，根据A₀和w₀判断NCA损失函数是否收敛：若损失函数不收敛，则利用随机数β计算梯度g_A,w，进而更新变换矩阵A和权重向量w，直至损失函数收敛，获取最终的变换矩阵A和权重向量w；

步骤8，根据最终的变换矩阵A和权重向量w对WMD算法通式进行改进，生成最终的WMD算法表达式，计算文本距离，进而通过文本距离的大小完成文本分类。

2.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤1中，利用基于python的爬虫框架scrapy爬取网络上的文本语料。

3.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤1中，采用python库Jieba对m条文本语料进行分词。

4.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤7中，损失函数具体如下：

其中m为语料的总数,d^a,d^b分别代表第a条语料和第b条语料的nBOW，y_a和y_b分别代表语料a和语料b的标签；

其中，A为变换矩阵，x_i代表语料a中第i个单词的词嵌入，T_i,j是转移矩阵，其中每一项代表从语料a中词语i转移到语料b中词语j的概率。

5.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤7中，梯度g_A,w具体计算如下：

其中，1≤β≤m，N_a是语料a的最近邻文档集合，仅当标签y_a＝y_b时，δ_ab＝1，,否则δ_ab＝0；p_a代表语料a在语料库中出现的概率，为偏导数符号，p_b代表语料a在语料库中出现的概率。

6.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤7中，更新变换矩阵A和权重向量w的具体步骤如下：

A′←A-η_ag_a,w

w′←w-η_wg_a,w

其中，η_a和η_w分别是参数A，w的学习率。

7.根据权利要求1所述的一种结合监督学习的中文文本分类方法，其特征在于：在步骤8中，最终的WMD算法表达式具体如下：

约束条件为

其中，w是权重向量，代表函数的复合运算，表示词语i在d^a中出现的次数，T_i,j代表从语料a中词语i转移到语料b中词语j的概率，表示两个单词词嵌入距离，表示词语j在d^b中出现的次数。