[发明专利]基于义原编码的层次级远程监督关系抽取方法

权利要求书

1.一种基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述关系抽取方法包括如下步骤：

步骤1：将训练数据集中的所有句子，将包含相同实体对的句子分配到同一包中；

步骤2：词向量编码：基于HowNet人工知识库，为步骤1中的每个句子的每个单词分配义原组合，选择出最符合语境的语义，得到单词的向量表征；

步骤3：位置向量编码：根据步骤1中每个句子的每个单词相对实体对的距离训练得到位置向量；

步骤4：PCNN特征提取：将步骤2通过义原编码的词向量和步骤3的位置向量拼接在一起得到句子向量，将句子向量输入PCNN，与给定的卷积核W进行卷积操作，然后根据实体对在句子中的位置，将卷积后的结果分成3段，每段取最大值做最大池化；

步骤5：层次级关系注意力机制：对于步骤1给定的一组包含相同实体对的句子集，将经过PCNN特征提取后的低维的句子向量在关系层次结构的每一层上都进行注意力计算，最终将不同层次上的向量信息进行拼接形成完整的句子集向量；

步骤6：构建超包级别训练实例：得到每个包针对不同关系层级的句子集向量表示后，从关系的角度重新打包，即为每种关系构造一个超包，并将超包设置为训练实例；计算超包中每一组包的注意力权重，得到超包的特征，模型最终在超包级别上进行训练调优；

步骤7：关系抽取模型：使用交叉熵目标损失函数J，采用随机梯度下降来最小化损失函数进行训练调优，最终得到关系抽取模型。

2.根据权利要求1所述基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述步骤2中，最符合语境的语义的选择通过注意力机制为语义分配权重，代表单词w的第j种语义向量。

3.根据权利要求1所述基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述步骤4中，句子向量X_i表示为：

X_i∈R^d(d＝d^w+d^p×2)

其中：d^w是单词义原编码后长度，d^p是位置向量长度。

4.根据权利要求1所述基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述步骤5中，注意力计算是指计算每个句子与给定关系的匹配程度，注意力计算表示为：

其中：s是每一个句子向量，q_ri是每一个层级关系向量。

5.根据权利要求1所述基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述步骤5中，句子集S在每一层上的分布式向量表示为：

6.根据权利要求1所述基于义原编码的层次级远程监督关系抽取方法，其特征在于：所述步骤6中，超包表示为：

其中，n_s是超包的大小，B_i是标注了第k种关系的句子包，

所述超包的特征表示为：

其中