[发明专利]一种基于特征和注意力机制融合的事件联合抽取系统

权利要求书

1.一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述系统包括：输入层、特征提取层、触发词和论元识别层和事件后处理层；

所述输入层：将文本进行语料预处理，得到单词向量嵌入式表示、词性向量嵌入式表示和实体向量嵌入式表示，再将所述单词向量嵌入式表示、词性向量嵌入式表示和实体向量嵌入式表示进行拼接，得到嵌入层表示；

所述特征提取层包括：局部特征提取层、全局特征提取层和注意力机制层；

所述局部特征提取层：将所述嵌入层表示输入卷积神经网络，经卷积运算，得到卷积特征表示，再对所述卷积特征表示进行最大池化，得到局部特征矩阵；

所述全局特征提取层：将所述嵌入层表示输入深度学习网络，得到上下文语义特征矩阵；

所述注意力机制层：根据所述卷积特征表示和上下文语义特征矩阵，应用注意力机制，得到特征融合注意力机制的信息向量，再将所述局部特征矩阵、深度学习网络的最后一维隐层输出和特征融合注意力机制的信息向量进行拼接，得到特征表示向量；

所述触发词和论元识别层：根据所述特征表示向量和其对应的标签序列，得到触发词类别标签得分和触发词的识别结果，并返回所述触发词的条件概率信息向量；

根据所述特征表示向量和所述条件概率信息向量，得到论元识别的结果；

所述事件后处理层：根据所述触发词的识别结果和所述论元识别的结果，生成完整的符合定义的事件。

2.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述将所述嵌入层表示输入深度学习网络，得到上下文语义特征矩阵的具体方法包括：将所述嵌入层表示输入双向门控循环单元网络，得到正向门控循环单元的输出和反向门控循环单元的输出，再将所述正向门控循环单元的输出和反向门控循环单元的输出拼接，得到上下文语义特征矩阵。

3.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述根据所述卷积特征表示和上下文语义特征矩阵，应用注意力机制，得到特征融合注意力机制的信息向量的具体方法包括：

计算所述卷积特征表示和上下文语义特征矩阵之间的注意力权重，然后将所述注意力权重和上下文语义特征矩阵进行加权，得到特征融合注意力机制的信息向量。

4.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述根据所述特征表示向量和其对应的标签序列，得到触发词类别标签得分和触发词的识别结果，并返回所述触发词的条件概率信息向量的具体方法包括：

根据所述特征表示向量和其对应的标签序列，应用触发词识别的条件随机场得到触发词类别标签得分和触发词的识别结果，并返回所述触发词的条件概率信息向量。

5.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述根据所述特征表示向量和所述条件概率信息向量，得到论元识别的结果的具体方法包括：

将所述特征表示向量和所述条件概率信息向量融合，根据触发词和候选词的位置，分别抽取出触发词和候选词的向量表示；

再将所述触发词和候选词的向量表示拼接起来，并将拼接后的结果送入论元识别的条件随机场，得到论元识别的结果。

6.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述根据所述触发词的识别结果和所述论元识别的结果，生成完整的符合定义的事件的具体方法包括：

根据所述触发词的识别结果和所述论元识别的结果，利用基于SVM的后处理方法生成完整的符合定义的事件。

7.根据权利要求1所述的一种基于特征和注意力机制融合的事件联合抽取系统，其特征在于，所述将文本进行语料预处理，得到单词向量嵌入式表示、词性向量嵌入式表示的具体方法包括：

将每个单词转换为d维的单词向量,最后由BioBERT模型编码生成单词向量表示矩阵，即单词向量嵌入式表示；所述BioBERT模型为用于自然语言上的预训练模型；

应用Stanford Parser工具来得到单词的词性向量，即词性向量嵌入式表示。