[发明专利]一种文本分类方法及系统

权利要求书

1.一种文本分类方法，其特征在于，包括：

对文本进行预处理，提取动词和名词作为文本特征；

采用布尔逻辑模型对提取的文本特征进行特征表示；

将特征表示输入至深度学习模型中进行特征学习；所述深度学习模型由两层附加动量及自适应学习率的降噪自动编码器构建而成；

利用深度学习模型的分类层输出文本分类结果。

2.如权利要求1所述的文本分类方法，其特征在于，每层附加动量及自适应学习率的降噪自动编码器由编码器和解码器组成，所述编码器用于对输入的特征表示进行降维处理并编码；所述解码器用于对编码结果进行映射重构；在训练深度学习模型的权值和偏置参数时，附加动量项使得权值的调整朝着误差曲面底部的平均方向变化，且每个权值和偏置参数对应一个自适应学习率。

3.如权利要求2所述的文本分类方法，其特征在于，自适应调学习率的调整策略为：下一次迭代的学习率是当前迭代的学习率与学习率变化系数和总体平均误差比值三者的乘积；其中，总体平均误差比值为前一次迭代的总体平均误差与当前迭代的总体平均误差的比值；学习率变化系数的倒数等于所有迭代次数的损失函数梯度平方和与预设常系数累加后的平方根。

4.如权利要求1所述的文本分类方法，其特征在于，将特征表示输入至深度学习模型中进行特征学习的过程为：

第一层附加动量及自适应学习率的降噪自动编码器将原始特征表示映射到一个预设高维空间；

第二层附加动量及自适应学习率的降噪自动编码器对第一层的输出进行压缩和进一步特征提取，且第一层训练结束后的输出作为第二层训练的输入。

5.如权利要求1所述的文本分类方法，其特征在于，深度学习模型的分类层为深度学习模型的最后一层，且为Softmax分类器。

6.一种文本分类系统，其特征在于，包括存储器和分类处理器，所述分类处理器包括：

预处理模块，其用于对文本进行预处理，提取动词和名词作为文本特征；

特征表示模块，其用于采用布尔逻辑模型对提取的文本特征进行特征表示；

特征学习模块，其用于将特征表示输入至深度学习模型中进行特征学习；所述深度学习模型由两层附加动量及自适应学习率的降噪自动编码器构建而成；

分类结果输出模块，其用于利用深度学习模型的分类层输出文本分类结果。

7.如权利要求6所述的文本分类系统，其特征在于，每层附加动量及自适应学习率的降噪自动编码器由编码器和解码器组成，所述编码器用于对输入的特征表示进行降维处理并编码；所述解码器用于对编码结果进行映射重构；在训练深度学习模型的权值和偏置参数时，附加动量项使得权值的调整朝着误差曲面底部的平均方向变化，且每个权值和偏置参数对应一个自适应学习率。

8.如权利要求7所述的文本分类系统，其特征在于，自适应调学习率的调整策略为：下一次迭代的学习率是当前迭代的学习率与学习率变化系数和总体平均误差比值三者的乘积；其中，总体平均误差比值为前一次迭代的总体平均误差与当前迭代的总体平均误差的比值；学习率变化系数的倒数等于所有迭代次数的损失函数梯度平方和与预设常系数累加后的平方根。

9.如权利要求6所述的文本分类系统，其特征在于，在所述特征学习模块中，将特征表示输入至深度学习模型中进行特征学习的过程为：

第一层附加动量及自适应学习率的降噪自动编码器将原始特征表示映射到一个预设高维空间；

第二层附加动量及自适应学习率的降噪自动编码器对第一层的输出进行压缩和进一步特征提取，且第一层训练结束后的输出作为第二层训练的输入。

10.如权利要求6所述的文本分类系统，其特征在于，在所述特征学习模块中，深度学习模型的分类层为深度学习模型的最后一层，且为Softmax分类器。