[发明专利]基于语义句法交互网络的知识图谱关系数据抽取方法

权利要求书

1.一种基于语义句法交互网络的知识图谱关系数据抽取方法，其特征在于：方法包括以下步骤：

S1.收集复杂装备设计过程的设计文档，由设计文档的文本数据组建设计文档语料库；

S2.针对收集到的设计文档的文本数据进行文本预处理；

S3.建立基于语义句法多轮交互深度神经网络的实体关系抽取模型；

S4.针对复杂装备设计过程的设计文档的文本数据进行步骤S2预处理后的结果与文本数据已知的实体关系类别标签输入到基于语义句法多轮交互深度神经网络的实体关系抽取模型中，离线训练该实体关系抽取模型；

S5.针对包含两个实体且存在待预测实体关系类别的文本，进行步骤S2预处理后，输入至训练好的基于语义句法多轮交互深度神经网络中，在线预测获得文本数据中关键词文本对应的实体关系类别结果；

所述步骤S3中，基于语义句法多轮交互深度神经网络的实体关系抽取模型构建步骤为：

S301.构造嵌入层，包含了词意嵌入层、词性嵌入层、命名实体类别嵌入层以及句法关系嵌入层，将文本数据进行分词、命名实体识别、词性标注后的结果和依存句法分析后获得的句法关系，作为输入并分别输入到词意嵌入层、词性嵌入层、命名实体类别嵌入层和句法关系嵌入层中，将以上嵌入层的输出向量相连，组成词嵌入向量；

S302.构造一层双向长短期记忆网络，以词嵌入向量作为输入，输出融合有上下文信息的语义初始嵌入向量；

S303.构造一层图卷积神经网络，以词嵌入向量作为输入，输出包含有句法信息的句法初始嵌入向量；

S304.将语义初始嵌入向量与句法初始嵌入向量相连接，获得初始嵌入向量；

S305.构造语义句法多轮交互层，以初始嵌入向量作为输入，最终输出语义句法多轮交互层中每层交互得到的语义嵌入向量与句法嵌入向量；

S306.使用密集连接，将初始嵌入向量以及步骤305中每一层交互后得到的语义嵌入向量连接，而后输入一层的前馈神经网络中，输出获得最终的语义嵌入向量；

同时将初始嵌入向量以及步骤305中每一层交互后得到的句法嵌入向量连接，而后输入一层的前馈神经网络中，输出获得最终的句法嵌入向量；

S307.将步骤306密集连接处理过后的语义嵌入向量与句法嵌入向量相连接，同时对连接后的向量使用门控机制方法，控制语义嵌入向量与句法嵌入向量中语义信息与句法信息的传输量，得到包含有语句每个词汇信息的语句向量；

S308.构建池化层，输入语句向量，输出获得实体表达向量；

S309.采用多头自注意力方法，输入语句向量，输出获得上下文信息表达向量；

S310.将实体表达向量以及上下文信息表达向量连接起来，输入到前馈神经网络中处理，输出文本数据中关键词文本对应的实体关系类别；

所述步骤S305中，语义句法多轮交互层包含有N层双向长短期记忆网络和N层图卷积神经网络，交互过程如下：

S3051.构造一层双向长短期记忆网络，输入向量经双向长短期记忆网络处理得到未交互的语义嵌入向量；若当前为第一层时，以初始嵌入向量作为输入向量，若当前为第二层时，以上一层交互后的语义嵌入向量作为输入向量，

S3052.构造一层图卷积神经网络，输入向量经图卷积神经网络处理得到未交互的句法嵌入向量；若当前为第一层时，以初始嵌入向量作为输入向量，若当前为第二层时，以上一层交互后的句法嵌入向量作为输入向量，

S3053.使用多头注意力方法，以未交互的语义嵌入向量作为查询向量query，以未交互的句法嵌入向量作为键向量key和值向量value，处理得到语义交互句法嵌入向量；然后将语义嵌入向量与语义交互句法嵌入向量相连接，作为该层交互后的语义嵌入向量；

S3054.使用多头注意力方法，以未交互的句法嵌入向量作为查询向量query，以未交互的语义嵌入向量作为键向量key和值向量value，处理得到句法交互语义嵌入向量；然后将句法嵌入向量与句法交互语义嵌入向量相连接，作为该层交互后的句法嵌入向量。

2.根据权利要求1所述的一种基于语义句法交互网络的知识图谱关系数据抽取方法，其特征在于：所述步骤S1中，收集复杂装备设计过程的需求分析文档、设计说明书、设计手册、性能分析文档、设计百科。