[发明专利]一种融合五维特征的高普适性多对多关系三元组抽取方法

权利要求书

1.一种融合五维特征的高普适性多对多关系三元组抽取方法，其特征在于，包括以下步骤：

第一步：数据准备

准备用于训练实体识别模型的实体识别语料以及用于三元组分类引擎训练的三元组分类语料，其中，取语义角色类型为施事者作为头实体、受事者作为尾实体、施事者和受事者对应的谓词作为关系，同组出现的语义角色构成结构为头实体，关系，尾实体的三元组；

第二步：构建用于进行实体抽取的实体识别模型，包括以下步骤：

步骤1、生成底层自然语言处理特征

对文本进行分句，再使用底层自然语言处理工具HanLP对文本中的每句句子进行分词，生成分词的词性、语义角色、语义依存和句法依存四个维度特征；

步骤2、引入Bert预训练词向量

基于步骤1中的分词结果，使用基于词颗粒度中文WoBert的预训练模型，为每句句子生成维度为n的分词预训练向量，这样就得到了每句句子的预训练句子向量{y₁,y₂,…,y_i,…,y_n}，y_i为预训练句子向量中的第i个预训练词向量；

步骤3、引入依存关系，具体包括以下步骤：

步骤301、根据语义和句法依存关系的类别，生成相应类别的语义依存关系超平面、句法依存关系超平面、语义依存关系向量、句法依存关系向量；

步骤302、找出每句句子中独立的分词，将该分词作为根节点，为每句句子分别建立语义依存树以及句法依存树，由语义依存树以及句法依存树的所有节点分别组成当前句子的包含有语义依存关系的句子向量{sdp₁,sdp₂,…,sdp_i,…,sdp_n}和包含有句法依存关系的句子向量{sep₁,sep₂,…,sep_i,…,sep_n}，其中，sdp_i为当前句子向量中第i个包含有语义依存关系的词向量，sep_i为当前句子向量中第i个包含有句法依存关系的词向量；

语义依存树以及句法依存树中，除根节点向量为步骤2得到对应分词的预训练词向量外，其他节点的向量为依赖节点的预训练词向量在相应关系的语义依存超平面或句法依存关系中的投影和语义依存关系向量或句法依存向量的翻译；

步骤4：引入词性和语义角色

在基于词颗粒度中文WoBert中随机初始化维度为k_pos×n的向量以及维度为k_srl×n的向量，其中，k_pos和k_srl分别表示词性和语义角色的种类数量，根据每个句子中各个分词的词性和语义角色类型，为每个句子生成表示词性的句子向量{pos₁,pos₂,…,pos_i,…,pos_n}以及表示语义角色的句子向量{srl₁,srl₂,…,srl_i,…,srl_n}，其中，pos_i为当前句子向量中第i个表示词性的词向量，srl_i为当前句子向量中第i个表示语义角色的词向量；

步骤5：使用Lex-Bert V2中的共享位置嵌入的方法，将步骤2、步骤3及步骤4得到的五种维度的词向量进行拼接，获得五维特征词向量；

步骤6：实体识别模型基于五维特征词向量进行实体识别，并利用实体识别语料对实体识别模型进行训练，直至模型收敛，并得到模型收敛时的所有类别的语义和句法依存关系的关系超平面以及关系向量；

第三步：构建用于判断实体识别模型抽取的实体是否构成三元组的三元组分类引擎：

三元组分类引擎使用TextCNN分类网络对包含语义和句法依存特征的实体对进行分类，判断是否构成三元组，其中，三元组分类引擎的输入是三元组间的语义和句法依存关系，输入顺序为头实体-关系、尾实体-关系、头实体-尾实体，其中，x-y表示x依赖y的语义和句法依存关系类型集合和y依赖x的语义和句法依存关系类型集合；使用训练实体识别模型得到的所有类别的语义和句法依存关系的关系向量初始化依赖关系并嵌入字典，该字典随着三元组分类引擎所采用的TextCNN分类网络利用三元组分类语料一起训练。