[发明专利]一种文本分类方法

权利要求书

1.一种文本分类方法，其特征在于，采用Attention-Based LSTM模型来进行文本分类。

2.根据权利要求1所述的文本分类方法，其特征在于，所述文本分类方法包括以下步骤：

步骤1)文本预处理；

步骤2)对预处理后的文本数据进行向量表示；

步骤3)将所述向量输入Attention-Based LSTM模型进行分类。

3.根据权利要求1-2所述的文本分类方法，其特征在于，所述步骤1)具体为：提取标题和正文信息，再依据内容是否固定进行不同的文本数据编码工作，采用字符级语言模型，对输入进行五笔码转化。

4.根据权利要求1-3所述的文本分类方法，其特征在于，所述步骤2)具体为：为每类数据分配一个维度进行向量表示，通过五笔字型码转换，每个中文字符平均转化为3个英文字符，为此类数据每类分配1000维进行向量表示，多于1000维的截断，少于1000维的在末尾补0。

5.根据权利要求1-4所述的文本分类方法，其特征在于，所述步骤2)中，文本数据向量为：

X＝{x₁，x₂，x₃，x₄，x₅，…，x_T}；

其中，X为文本总体的输入向量；x₁为主讲人分量；x₂为时间分量；x₃为地点分量；x₄为主办单位分量；x₅，......，x_T分量为题目和介绍部分的内容。

6.根据权利要求1-4所述的文本分类方法，其特征在于，所述步骤3)具体为：将编码时的隐藏向量序列h₁，h₂，h₃，……，h_T按权重α_ki相加获得语义编码C；LSTM模型的输入即为包含注意力影响因子的语义编码C和最终节点的输入x_T，输出为最后的特征向量h_T’；

α_ki表示历史输入的隐藏状态对当前输入的注意力权重；C是语义编码；输入序列X＝{x₁，x₂，x₃，…，x_T}是文章的向量表示，其中x_i为1维的输入向量；h₁，h₂，h₃，……，h_T是对应于输入序列x₁，x₂，x₃，……，x_T的隐藏层状态值；h_T是对应于输入x_T的隐藏层状态值；最后节点的隐藏层状态值h_T’为最终的特征向量。注意力权重α_ki为：

f_ki＝v tanh(Wh_T+Uh_i+b)；

语义编码C由编码时的隐藏向量序列h₁，h₂，h₃，……，h_T按权重相加得到，语义编码C为：

最后的特征向量h_T’即最后节点的隐藏向量，最后的特征向量h_T’为：

h_T′＝H(C，h_T，x_T)。