[发明专利]一种基于图信息增强的实体关系抽取方法

权利要求书

1.一种基于图信息增强的实体关系抽取方法，其特征在于：包括以下步骤：

步骤1：训练集文本数据处理：将训练集中的句子进行分词、抽取头实体和尾实体及其关系，并将头实体和尾实体保存为字典形式；

步骤2：将训练集中的实体关系三元组集合转换为关系图；

步骤3：构建训练集中句子的初始向量表示，利用预训练模型BERT生成句子词语的向量，进而构建句子的初始向量，具体包括如下子步骤：

步骤3.1：对分词后的句子加入句子的开始标记“[CLS]”，句子的结尾标记“[SEP]”；

步骤3.2：对句子中的token或词语进行标引，将句子中每个词与词汇表对应，生成句子索引向量；

步骤3.3：将句子索引向量输入到预训练模型BERT中；

步骤3.4：对于每个单词，采用其最后两层隐藏层的特征向量作为词向量；对于每个句子，将其所有词语的词向量求平均作为句子的初始向量表示；

步骤4：基于图神经网络模型生成关系图中节点即实体的向量表示；

步骤4.1：生成关系图中每个节点v的初始向量；

步骤4.2：采用GraphSAGE训练图神经网络，提取隐藏层向量，生成关系图中节点的向量表示；GraphSAGE，即Graph Sample and Aggregate；

步骤5：构建训练集中句子的向量表示，即拼接句子初始向量、头实体向量和尾实体向量，构建为句子向量，再将句子向量输入全连接网络中，根据句子的分类损失计算模型损失并反向传播回全连接层，进行全连接网络参数的学习和更新；

构建句子向量，具体为：对于句子s，设s包含头实体h和尾实体t，通过步骤4的图神经网络模型生成头实体h的向量v_h，以及尾实体t的向量v_t；设由步骤3生成句子s的句子初始向量v_s，将v_s,v_h,v_t拼接，构建为句子s的向量表示；

其中，模型损失如公式(1)所示：

其中，n为句子数量，l_i为句子s_i的分类损失，α_i为权重，i为句子编号，其取值范围为1到n；

步骤6：抽取测试集中实体的关系，具体为：

基于测试集依次进行步骤1的文本数据处理，步骤2的关系图构建，步骤3的句子初始向量表示构建，步骤4的实体节点的向量表示构建，步骤5的句子向量表示构建，将句子向量输入全连接网络中，然后利用Softmax函数对句子中的实体关系分类。

2.根据权利要求1所述的一种基于图信息增强的实体关系抽取方法，其特征在于：步骤1，具体为：利用预训练模型BERT中的tokenizer方法对句子进行分词，抽取头实体和尾实体，获取头实体和尾实体的位置标记，标注头实体和尾实体的关系。

3.根据权利要求1所述的一种基于图信息增强的实体关系抽取方法，其特征在于：步骤2，具体为：对训练集进行实体对及其关系抽取，获取关系三元组集合，并将其转换为图的表示形式，即构建其对应的关系图；

该关系图，记为G，G中节点表示实体，边表示实体关系三元组中头实体和尾实体之间的关系；

其中，关系三元组包括头实体，关系和尾实体。

4.根据权利要求1所述的一种基于图信息增强的实体关系抽取方法，其特征在于：步骤4.1对于节点v，设其表示实体e，通过预训练模型BERT生成实体e的词向量，作为节点v的初始向量。