[发明专利]一种基于层次推理的医学实体关系抽取方法

权利要求书

1.一种基于层次推理的医学实体关系抽取方法，其特征在于，包括：

S1：获取训练语料，训练语料为医学数据集；

S2：构建实体关系抽取模型，实体关系抽取模型包括嵌入模块、特征提取模块、实体层推理模块、句子层推理模块、文档层推理模块以及关系分类模块，其中，嵌入模块用于分别获取输入文本的句子层嵌入表示和实体层嵌入表示，特征提取模块用于采用门控膨胀卷积网络进行特征提取，实体层推理模块用于融合实体信息、实体类型信息和共指信息对实体进行表示，将双线性变换和迁移约束应用在多个子空间的目标实体对，获得实体层推理信息，句子层推理模块用于引入注意力机制来计算每个句子所提供的信息量权重，将句子的单词表示形式进行融合得到句子向量，然后融合实体层推理信息得到句子层推理信息，文档层推理模块用于在句子层推理信息的基础上构建一个门控膨胀卷积网络，并引入注意力机制得到文档层推理信息，关系分类模块用于将实体层推理信息与文档层推理信息进行融合，得到实体关系的类别；

S3：利用获取的训练语料对实体关系抽取模型进行训练，使用交叉熵作为损失函数，利用Adam优化器来更新模型的参数，得到训练好的实体关系抽取模型；

S4：利用训练好的实体关系抽取模型对输入文本的实体关系进行抽取。

2.如权利要求1所述的医学实体关系抽取方法，其特征在于，步骤S1包括：

S1.1：构建以新冠肺炎疾病为中心的实体关系类型体系；

S1.2：爬取新冠肺炎相关文献语料；

S1.3：利用医学知识库中的三元组与新冠肺炎语料进行实体对齐；

S1.4：利用基于双数组字典树的方法对实体对齐后的语料进行自动标注，得到新冠肺炎实体关系抽取语料库，将其作为训练语料。

3.如权利要求1所述的医学实体关系抽取方法，其特征在于，步骤S2中嵌入模块，采用预训练模型BioBERT得到具有上下文信息的词向量表示，词向量表示与位置特征表示作为句子层嵌入表示，利用Glove得到包含实体信息和实体类型信息的实体类型向量和包含共指信息的共指向量，作为实体层嵌入表示。

4.如权利要求1所述的医学实体关系抽取方法，其特征在于，步骤S2中句子层推理模块的处理过程包括：

将词向量表示与位置特征表示结合输入到特征提取模块中，得到隐藏层的特征向量表示其中，h_jt表示第j个句子中的第t个单词的隐藏层的特征向量，DGConv表示特征提取模块中门控膨胀卷积神经网络的运算过程，w_jt表示第j个句子中的第t个单词的词向量，与分别为头实体与尾实体的位置向量特征表示；

将隐藏层向量输入到一个多层感知器MLP中，计算公式为：

其中，表示维度为d的实体域，tanh为多层感知器的激活函数，W_w，b_w，u_w为学习参数，表示u_w的转置，L表示句子总数，T_j表示第j句的单词总数；

根据单词与目标实体的相关性获得单词的权重，计算公式为：

其中，exp表示以e为底的指数函数，α_jt表示多层感知器的输出，下方分母的含义为对整句中所有词向量的MLP输出的以e为底的指数函数结果求和；

通过将单词的隐层向量加权求和得到句子向量S_j，

S_j＝∑_tα_jth_jt

上式中，右侧表示对整句中所有词向量的权重与隐藏层向量的乘积求和。

5.如权利要求1所述的医学实体关系抽取方法，其特征在于，门控膨胀卷积网络的膨胀卷积的形式化公式为：

其中，f为输入，w为卷积核，t为卷积核的大小，p为卷积的下限值，q为卷积的上限值，l为膨胀率，左侧公式(f*lw)[t]为f与w的膨胀率为l的卷积，右侧为该膨胀卷积的标准展开形式，f[t-l*p]是第t-l*p个输入值，w[p]是卷积核大小为p时的值。