[发明专利]一种基于损失优化的实体关系联合抽取方法

权利要求书

1.一种基于损失优化的实体关系联合抽取方法，包括以下步骤：

步骤1、数据预处理；

步骤1.1、读取实体标签数据：

步骤1.1.1、对文本T，从标签文件中读取分词信息，将T分割成不同的词t_i，1≤i≤N_w、N_w为文本T中词的总个数，其中标点符号视为一个词；

步骤1.1.2、对文本T中的每一个词t_i，从标签文件中读取实体类型信息，生成t_i的实体类型编号l_i：若t_i被标注为某实体、则令l_i为该实体的实体类别编号，否则、令l_i＝N_e+1，N_e为实体类别总数；

步骤1.1.3、对文本T中的每一个词t_i，将其实体类型编号l_i进行独热(one-hot)编码，得到实体标签向量y_i；

步骤1.2、读取关系标签数据：

步骤1.2.1、将文本T中的任意两个不同的词t_i和t_j组成词对(t_i,t_j)，1≤i,j≤N_w,i≠j；从标签文件中读取词对(t_i,t_j)的关系类型信息，生成词对(t_i,t_j)所对应的关系类型编号m_i,j：若词对(t_i,t_j)被标注为某关系、则令m_i,j为该关系的关系类别编号，否则、令m_i,j＝N_r+1，N_r为关系类别总数；

步骤1.2.2、对每一个词对(t_i,t_j)，将其关系类型编号m_i,j进行独热编码，得到关系标签向量z_i,j；

步骤2、构建及训练联合分类模型；

步骤2.1、构建联合分类模型，包括：输入层、隐藏层及输出层；

所述输入层采用word2vec词嵌入结构、并设置其输出矢量的维数为d_w；将文本T中的每一个词t_i输入到输入层进行词嵌入，得到维数为d_w的词向量w_i；

所述隐藏层采用双向LSTM结构、并设置其输出矢量的维数为d_c；其中，前向LSTM编码：将每一个词t_i所对应的词向量w_i输入到隐藏层进行前向LSTM编码得到维数为d_c的前向编码向量后向LSTM编码：将每一个词t_i所对应的词向量w_i输入到隐藏层进行后向LSTM编码得到维数为d_c的后向编码向量将每一个词t_i所对应的前向编码向量和后向编码向量进行拼接，得到维数为2×d_c双向编码向量h_i：

所述输出层采用softmax与sigmoid分类器的联合结构；其中：

所述softmax分类器进行实体类型预测，将每一个双向编码向量h_i输入到softmax分类器，得到维数为N_e+1的实体类型预测向量

所述sigmoid分类器进行关系类型预测，将每一个词对(t_i,t_j)中t_i和t_j所对应的双向编码向量h_i和h_j输入到sigmoid分类器，得到维数为N_r+1的关系类型预测向量

步骤2.2、训练联合分类模型：设置训练集的文本总条数为N_train、训练总迭代次数为N_t以及损失函数，采用反向传播算法对联合分类模型参数进行更新，训练结束得到联合分类模型；

所述损失函数为：

其中，为实体损失：

δ_i为词t_i的敏感因子：

为实体标签向量y_i的第l_i个元素，为实体类型预测向量的第l_i个元素，1≤l_i≤N_e+1；λ为预设敏感阈值，sgn(·)为符号函数：

β_i为词t_i的衰减因子：

N_O表示文本T中非实体类型的词的个数；

为关系损失：

步骤3、实体关系联合抽取；

步骤3.1、采用中文分词工具对待处理文本T'进行分词处理，将T'分割成不同的词t'_i'，1≤i'≤N'_w、N'_w为T'中词的总个数；并形成词对(t'_i',t'_j')，1≤i',j'≤N'_w,i'≠j'；输入至训练得到的联合分类模型，得到每一个词t'_i'的实体类型预测向量以及词对(t'_i',t'_j')的关系类型预测向量其中，实体类型预测向量中最大值对应的位置编号作为词t'_i'的实体类型预测编号关系类型预测向量中最大值所对应的位置编号作为词对(t'_i',t'_j')的关系类型预测编号

步骤3.2、输出实体关系三元组：对每个词对(t'_i',t'_j')进行判断：若该词对对应的实体类型预测编号和均不等于N_e+1，且其关系类型预测编号不等于N_r+1，则形成实体关系三元组(t'_i',R_i',j',t'_j')并输出，其中，R_i',j'为关系类型预测编号所对应的关系名称。

2.按权利要求1所述基于损失优化的实体关系联合抽取方法，其特征在于，所述敏感阈值λ的取值范围：0.7≤λ≤0.9。