[发明专利]文本类别识别方法、装置、电子设备和存储介质

权利要求书

1.一种文本类别识别方法，包括：

将待识别文本进行拆分得到子文本序列，将所述子文本序列中每个子文本进行拆分得到对应的句子序列；

对于每个所述子文本对应的句子序列中的每个句子按照预先训练的特征提取模型进行特征提取得到该句子对应的句子特征向量；

对于所述子文本序列中的每个子文本，执行以下第一计算操作：对于该子文本中的每个句子，基于该子文本对应的句子序列中每个句子对应的句子特征向量，计算该句子相对于该子文本的注意力特征向量；基于每个句子相对于该子文本的注意力特征向量，计算该子文本相对于所述待识别文本的注意力特征向量；

拼接所述子文本序列中子文本相对于所述待识别文本的注意力特征向量，得到所述待识别文本对应的待识别文本特征向量；

将所述待识别文本特征向量输入预先训练的分类模型，得到所述待识别文本属于预设类别文本的概率值。

2.根据权利要求1所述的方法，其中，所述特征提取模型和所述分类模型通过如下训练步骤预先训练得到：

确定初始特征提取模型和初始分类模型；

获取训练样本集合，其中，所述训练样本包括样本文本和用于表征该样本文本是否属于预设类别文本的样本标签；

对于所述训练样本集合中的训练样本，执行以下参数调整操作直到满足预设训练结束条件：对该训练样本中的样本文本进行拆分得到样本子文本序列，将所述样本子文本序列中每个子文本进行拆分得到对应的句子序列；对于所述样本子文本序列中每个样本子文本对应的句子序列中的每个句子按照所述初始特征提取模型进行特征提取得到该句子对应的句子特征向量；对于所述样本子文本序列中的每个样本子文本，执行第二计算操作以得到该样本子文本相对于所述样本文本的注意力特征向量：基于该样本子文本对应的句子序列中每个句子对应的句子特征向量，计算该句子相对于该样本子文本的注意力特征向量；基于每个句子相对于该样本子文本的注意力特征向量，计算该样本子文本相对于所述样本文本的注意力特征向量；拼接所述样本子文本序列中样本子文本相对于该样本文本的注意力特征向量，得到该样本文本对应的样本文本特征向量；将所得到的样本文本特征向量输入所述初始分类模型，得到该样本文本属于所述预设类别文本的概率值；基于所得到的概率值与该训练样本中的样本标签之间的差异，调整所述初始特征提取模型和所述初始分类模型的模型参数；

将训练得到的所述初始特征提取模型和所述初始分类模型确定为预先训练的所述特征提取模型和所述分类模型。

3.根据权利要求2所述的方法，其中，所述特征提取模型包括词向量特征提取模型和句向量特征提取模型；以及

所述对于每个所述子文本对应的句子序列中的每个句子按照预先训练的特征提取模型进行特征提取得到该句子对应的句子特征向量，包括：

对于每个所述子文本对应的句子序列中的每个句子，对该句子对应的分词序列中每个分词按照所述词向量特征提取模型进行特征提取得到对应的词向量，组合该句子对应的分词序列中各分词对应的词向量以形成该句子对应的句子特征矩阵，对该句子对应的句子特征矩阵按照所述句向量特征提取模型进行特征提取得到该句子对应的句子特征向量。

4.根据权利要求3所述的方法，其中，所述词向量特征提取模型包括以下至少一项：长短期记忆网络、翻译模型。

5.根据权利要求3所述的方法，其中，所述句向量特征提取模型包括以下至少一项：卷积神经网络、双向长短期记忆网络。

6.根据权利要求3所述的方法，其中，所述对于所述样本子文本序列中每个样本子文本对应的句子序列中的每个句子按照所述初始特征提取模型进行特征提取得到该句子对应的句子特征向量，包括：

对于所述样本子文本序列中每个样本子文本对应的句子序列中的每个句子，对该句子对应的分词序列中每个分词按照所述词向量特征提取模型进行特征提取得到对应的词向量，组合该句子对应的分词序列中各分词对应的词向量以形成该句子对应的句子特征矩阵，对该句子对应的句子特征矩阵按照所述句向量特征提取模型进行特征提取得到该句子对应的句子特征向量。