[发明专利]一种病理文本分类方法

权利要求书

1.一种病理文本分类方法，其特征在于，包括以下步骤：

S1：根据预设的数量阈值将用于训练的第一病理文本数据集的标签划分为密集标签和稀疏标签，对应组成大类标签集合和小类标签集合；

S2：利用第一病理文本数据集训练预构建的密集标签预测网络和稀疏标签预测网络，得到训练好的密集标签预测网络和稀疏标签预测网络；

S3：将待分类的第二病理文本数据集分别输入训练好的密集标签预测网络和稀疏标签预测网络，对应得到第一预测结果和第二预测结果；

第一预测结果包括密集标签的预测结果和小类标签集合的预测结果；

第二预测结果包括稀疏标签的预测结果和大类标签集合的预测结果；

S4：将密集标签的预测结果和稀疏标签的预测结果进行融合，得到最终预测结果作为分类结果。

2.根据权利要求1所述的一种病理文本分类方法，其特征在于，步骤S1中，统计第一病理文本数据集中标签的数量以及各个标签所对应的样本数量，将样本数量少于数量阈值的标签划分为稀疏标签，组成小类标签集合，将样本数量不少于数量阈值的标签划分为密集标签，组成大类标签集合。

3.根据权利要求1所述的一种病理文本分类方法，其特征在于，所述密集标签预测网络包括第一预训练语言模型、注意力模块、卷积网络模块和第一多层感知机；

首先将病理文本输入第一预训练语言模型，输出病理文本词向量，再将病理文本词向量输入注意力模块，得到注意力表示的词向量特征；将词向量特征输入卷积网络模块，使用四层卷积层作特征提取，每层卷积层提取的特征作为下一层的输入，将四层卷积层提取的特征进行融合得到融合词向量，最后通过多层感知机将融合词向量转换为对应标签的预测得分。

4.根据权利要求3所述的一种病理文本分类方法，其特征在于，所述卷积网络模块为多字符特征卷积融合模块，用于根据维度为D的词向量特征依次提取得到大小均为L*D的单字符词向量、双字符词向量、三字符词向量和四字符词向量，最后将大小均为L*D的单字符词向量、双字符词向量、三字符词向量和四字符词向量融合得到大小为L*D的多字符特征融合词向量；L为最大句子长度。

5.根据权利要求1所述的一种病理文本分类方法，其特征在于，所述稀疏标签预测网络包括第二预训练语言模型和第二多层感知机；

在将病理文本输入第二预训练语言模型之前，还包括：根据待输入的病理文本和标签的语义关系设置一个或多个相应的提示学习模板，在提示学习模板中添加待输入的病理文本；

所述提示学习模板为取材T具体病症：A；其中，T为输入的病理文本，A为待预测的文本答案；

在提示学习模板中添加待输入的病理文本后输入第二预训练语言模型，使用第二预训练语言模型对其进行编码得到所要预测答案的词向量，不同答案的词向量分别输入第二多层感知机，得到对应标签的预测得分。

6.根据权利要求5所述的一种病理文本分类方法，其特征在于，提示学习模板的数量为三个，其区别在于预留的待预测的文本答案的字符长度不同，分别为2、3、4个字符长度。

7.根据权利要求3或5所述的一种病理文本分类方法，其特征在于，还包括将标签的预测得分转化为标签的预测概率：

其中，y_i表示第i个标签的预测得分。

8.根据权利要求7所述的一种病理文本分类方法，其特征在于，所述密集标签预测网络采用交叉熵作为损失函数L1：

其中，m+1为密集标签预测网络中需要预测的标签类别数目，包括m个密集标签和1个小类标签集合。

9.根据权利要求7所述的一种病理文本分类方法，其特征在于，所述稀疏标签预测网络采用交叉熵作为损失函数L2：

其中，n+1为稀疏标签预测网络中需要预测的标签类别数目，包括n个稀疏标签和1个大类标签集合。

10.根据权利要求1所述的一种病理文本分类方法，其特征在于，总损失函数L3为密集标签预测网络和稀疏标签预测网络的损失相加：

L3＝L1+L2

其中，1为密集标签预测网络的损失函数，L2为稀疏标签预测网络的损失函数。