[发明专利]基于注意力机制的关系抽取方法、系统、设备及存储介质

说明书

本发明提供一种基于注意力机制的关系抽取方法、系统、设备及存储介质，所述方法包括：对待处理文本进行预处理，形成第一语句；识别第一语句，并对第一语句进行语义补全，形成第二语句；提取第二语句中的特征向量，并将特征向量输入到关系抽取模型中，得到关系抽取模型输出的关系标签类型，其中，关系抽取模型是基于训练语料库中的语义补全句和正常语句训练得到的。本发明通过对待处理文本进行预处理，再对其进行语义补全，并通过关系抽取模型获得关系标签类型；实现了对语义不完整的句子的关系抽取，提高了抽取效率及抽取的准确率，避免了人工标注这些语句费时昂贵的问题。

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于注意力机制的关系抽取方法、系统、设备及存储介质。

背景技术

信息抽取主要是从文本中抽取出特定的事实信息，即实体，而实体关系抽取作为信息抽取的子任务，其主要目的是从非结构化的文本中抽取出结构化的关系信息。传统的关系抽取方法通常基于监督学习、半监督学习和无监督学习。基于监督学习的关系抽取方法需要充分手工标注的语料库作为训练集来训练关系抽取模型，因此需要耗费大量的人力和时间，并且对于训练集中没有的、新的实体关系预测能力差。基于半监督学习的关系抽取方法使用部分标注的语料库通过迭代训练的方式来抽取实体关系。这种方法虽然在一定程度上减少了人工标注成本，但仍需要部分标注数据。而基于无监督学习的关系抽取方法不要需要人工标注的语料库，通过聚类的方法自动将关系进行分类，这种方法通常会获得次优的结果。

远程监督结合了半监督和无监督方法的优势，通过将未标注语料和知识库中的实体对齐来自动标注实体关系，以便于从知识库中提取实体信息时大大提升实体关系抽取的性能，并减少人工成本，再通过计算领域本体中实体对之间的关系词与未标注文本中实体对之间的依存词的相似性来解决远程监督方法的噪声问题。

由于存在缺少主语、谓语或宾语等语义不完整的短句，如医疗领域中的电子病历、领域知识图片构建，情感分析，检索或预测，举例而言，正常语句表示为：胸片示右侧胸膜病变、主动脉结钙化，其中实体为：胸片、右侧胸膜病变、主动脉结钙化，关系为：(胸片，显示，右侧胸膜病变)、(胸片，显示，主动脉结钙化)，语义缺失的短句则表示为：考虑为支气管炎，实体为：支气管炎。由此可见，语义缺失的短句并不能体现出实体关系，以致其关系抽取的准确率较差。

发明内容

本发明提供一种基于注意力机制的关系抽取方法、系统、设备及存储介质，用以解决远程监督缺少主语、谓语或宾语等语义不完整的短句的关系抽取准确率较差的问题，提高了关系抽取效率。

本发明提供一种基于注意力机制的关系抽取方法，包括：对待处理文本进行预处理，形成第一语句；识别第一语句，并对第一语句进行语义补全，形成第二语句；提取所述第二语句中的特征向量，并将所述特征向量输入到关系抽取模型中，得到所述关系抽取模型输出的关系标签类型，其中，所述关系抽取模型是基于训练语料库中的语义补全句和正常语句训练得到的。

根据本发明提供的基于注意力机制的关系抽取方法，对待处理文本进行预处理，形成第一语句，包括：待处理文本中的未标注语料和知识库结合，并将所述未标注语料与知识库中的实体对齐以自动标注实体关系；根据结合后的知识库中包含的实体、标点符号、数字和空格符将第一语句切分成汉字字符串，并去除停用词，形成第一语句。

根据本发明提供的基于注意力机制的关系抽取方法，识别第一语句，并对第一语句进行语义补全，形成第二语句，包括：通过解析识别第一语句的句法结构及第一语句中的第一实体；学习第一语句中的第一实体在第一语句中的上下文特征，以得出第一语句缺失的语义信息；根据缺失的语义信息对第一语句进行语义补全处理，形成第二语句。