[发明专利]一种基于注意力机制的司法场景用文案输入识别分类方法

权利要求书

1.一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：其具体步骤为：

A：获取文本数据集，对收集得到的司法文本数据进行数据预处理，将每一个词进行向量化并表示并组成映射矩阵，然后利用利用映射矩阵和权值为1的核矩阵进行一维卷积运算，检测出短文本中潜在的多尺度候选语义单元；

B：构建语义扩展矩阵，作为短文本的扩展信息，同时获取短文本中文本序列的语义特征，将短文本的语义特征向量赋予分类器，对短文本的类别进行预测；

C：对预处理后的文本进行特征选择，组成文本数据集的特征空间，对特征空间中的数据进行整理构建得到词汇表，并进行数据向量化形成嵌入式矩阵，并利用自身注意力机制进行自我学习，得到自我关注向量；

D：将嵌入式矩阵中的数据导入注意力机制模块的注意力机制权重模型、双层LSTM神经网络层和CNN模块中，将不同维度的数据进行拼接融合；

E：集成融合后的数据导入到全连接层中进行处理，处理后的数据导入Softmax分类器进行归一化处理，输出样本属于各个类别的概率，以最大值对应的类别，作为文本类别识别的结果，即可通过文本分类模型实现司法文本的快速分类。

2.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤B中使用双向长短期记忆网络来捕获文本序列的全局长期依赖，同时，使用多尺度卷积神经网络提取文本序列的局部语义特征。

3.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤C中自我关注向量包括问题文本的自我关注向量和答案文本的自我关注向量，且利用co-attention协同注意力机制明确问题的意图，其中包括获取问题—答案视图、从不同的视角理解问题及输出问题向量。

4.根据权利要求1所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤D中的注意力机制权重模型将提取的全局长期依赖和每个位置的局部语义特征作为输入，用局部语义特征关注全局长期依赖产生局部指导的全局注意力权重，进行加权得到加权全局特征，用全局长期依赖关注局部语义特征产生全局指导的局部注意力权重，进行加权得到加权局部特征。

5.根据权利要求4所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：步骤D中的LSTM由于自身以阵列的形式形成神经网络层，十分适合处理文本向量这种一维的序列化数据，双层的LSTM可以比较充分地挖掘出文本的序列化特征，CNN比较适合用来提取文本不同卷积核尺寸下的文本粒度特征。

6.根据权利要求5所述的一种基于注意力机制的司法场景用文案输入识别分类方法，其特征在于：双层的LSTM所提取的特征对注意力算法模块提取的特征信息进行强化，将双层LSTM提取出的特征与注意力机制提取的特征进行融合，可以增强注意力机制所提文本特征包含文本语义特征信息的丰富程度，LSTM与注意力机制的输出融合结果与CNN的提取特征进行融合可以进一步强化其特征信息丰富度与全面性，能够丰富、细致地提取文本语料中的深度语义特征。