[发明专利]一种电子病历文本分类方法

权利要求书

1.一种电子病历文本分类方法，其特征在于，包括以下步骤：

步骤1：对原始电子病历文本数据集进行预处理操作，包括句子分词、去除停用词、去除低频词，从而形成含有文本条目的原始语料库；

步骤2：将原始语料库转换为包括词编号与词的词表T1，利用词向量工具训练词表T1，将词训练表示为低维稠密的词向量，形成包含词编号和词向量的词表T2；

步骤3：利用步骤2中的词表T1将步骤1的原始语料库的文本条目转换为词编号序列，再利用步骤2中的词表T2将步骤1的原始语料库的文本条目转换为词向量序列；

步骤4：利用步骤3所得的词向量序列作为并行结构的CNN-Attention神经网络和BiLSTM-Attention神经网络的输入，训练文本特征向量；

步骤5：拼接步骤4中CNN-Attention神经网络和BiLSTM-Attention神经网络的输出，作为神经网络的整体输出；

步骤6：连接两个全连接层对步骤5的整体输出进行降维，并使用softmax分类器计算文本所属标签类别的概率，直接输出文本类别的预测结果。

2.根据权利要求1所述的一种电子病历文本分类方法，其特征在于，针对原始语料库的任意句子S，结合所述的词表T1与词表T2，得到S在词表T1的转换下为词编号序列S₁＝(x₁,x₂,…,x_n)，在词表T2的转换下为词向量序列S₂＝(w₁,w₂,…,w_n)，其中，x_i是词，w_i是对应的词向量。

3.根据权利要求2所述的一种电子病历文本分类方法，其特征在于，CNN-Attention神经网络采用三层并行式结构，对于词向量序列S₂＝(w₁,w₂,…,w_n)的输入，三层并行式结构中每层输出分别为C₁、C₂与C₃，则对于三层并行式结构的整体输出C表示为：

C＝concatenate([C₁,C₂,C₃],axis＝-1)

其中，concatenate表示concatenate()函数，axis表示维度拼接的方式。

4.根据权利要求3所述的一种电子病历文本分类方法，其特征在于，采用Attention机制对三层并行式结构的整体输出C进行特征加权，计算注意力权重得分，并使用softmax函数对注意力权重得分计算权重向量a，对于词向量序列S₂＝(w₁,w₂,…,w_n)的任意位置词向量w_i，将对应的权重向量a_i与输出向量C_i进行点乘与累加，形成CNN-Attention神经网络的输出Att_CNN：

5.根据权利要求4所述的一种电子病历文本分类方法，其特征在于，BiLSTM-Attention神经网络采用双向LSTM神经网络，对于词向量序列S₂＝(w₁,w₂,…,w_n)的输入，对于S₂＝(w₁,w₂,…,w_n)的任意位置的词向量w_i，单向LSTM神经网络进行文本特征训练可获得输出则BiLSTM神经网络的输出H由双向LSTM神经网络的输出拼接得到：