[发明专利]实体及关系抽取方法及系统、装置、介质

说明书

本发明公开了实体及关系抽取方法及系统、装置、介质，涉及自然语言处理领域，包括：将文档输入预训练语言模型，得到文档单词序列的向量表示序列；将向量表示序列输入卷积神经网络获得序列嵌入表示；将序列嵌入表示输入第一编码器，得到实体特征嵌入表示信息；将实体特征嵌入表示信息输入实体分类器得到实体分类结果；将序列嵌入表示输入第二编码器，得到的关系特征嵌入表示信息；将实体特征嵌入表示信息和关系特征嵌入表示信息拼接后输入前馈神经网络中得到关系抽取的嵌入表示，将关系抽取的嵌入表示输入到关系分类器中得到关系分类结果；利用实体分类和关系抽取损失函数优化实体分类结果和关系分类结果，本发明提高了实体及关系抽取的效率。

技术领域

本发明涉及自然语言处理领域，具体地，涉及实体及关系抽取方法及系统、装置、介质。

背景技术

实体及关系抽取是自然语言处理领域信息抽取的一个重要分支，主要负责从各种非结构化文档中提取出该文档包括的实体及实体之间的关系。其广泛应用于自然语言处理的各个领域中，如知识库构建，基于知识库的智能问答等。

命名实体识别:也称为实体识别、实体分块和实体提取，是信息提取的一个子任务，旨在将文本中的命名实体定位并分类为预先定义的类别，如人员、组织、位置、时间等，具体识别什么样的实体类型，需要根据不同的业务领域或应用场景进行定义，如：

K先生[人名]是A国[国名]第一任官职B[职务]

句子中包含人名“K先生”，国名“A国”，职务“官职B”等实体。

关系抽取：在识别出文本中的相关实体之后，信息抽取任务还需要抽取任意两个实体之间的语义关系，通常是配偶，子女，就业，从属和地理空间上的位置关系等二元关系，一般用SPO结构的三元组来表示，即(Subject,Predication,Object)，如:

K先生[人名]毕业于学校C[学校名]＝＝(K先生,毕业于,学校C)

句子中实体“K先生”和实体“学校C”是“毕业于”关系。用三元组表示为(K先生,毕业于,学校C)

传统的关系抽取方法有的基于统计机器学习方法或者Pipeline形式的深度学习模型，其将实体检测和识别，关系抽取作为独立的任务进行训练，下游模型的输入依赖于上游模型的输出，不利于利用文本的全局信息且容易造成错误传播。随着多任务联合训练技术的发展，基于文本片段(Span)的命名实体和关系抽取联合训练方法成为主流，其具体过程主要包括以下四个步骤：

(1)枚举句子中可能的Span，对于句子中每个字符的位置枚举以当前字符为首，最大枚举宽度以内的字符。

(2)对每个Span进行纯化，使用前馈神经网络对Span进行评分，选择分值高的Span参与下游的命名实体和关系抽取任务。

(3)使用图神经网络对Span进行消息传播，用选择的每个Span作为节点构建完全图，使用图神经网络对Span进行传播。

(4)对传播后的每个Span进行实体分类。

(5)对传播后的每对Span进行关系分类。

(6)计算实体分类和关系分类的加权损失，进行联合优化。

基于Span的实体识别和关系抽取联合训练方法能够完整的抽取实体所在Span的语义信息，通过Span传播也能够融合句子中当前Span相关的Span的语义信息，抽取更加全局的特征。但是由于该方法需要对句子中每个字进行Span枚举，效率相当低下，急需研发一种快速高效的命名实体抽取方法。

发明内容

本发明提供了一种实体及关系抽取方法及系统、装置、介质，目的是提高实体及关系抽取的效率。

为实现上述目的，本发明提供了实体及关系抽取方法，所述方法包括：