[发明专利]一种基于深度学习的端到端篇章事件抽取方法及系统

权利要求书

1.一种基于深度学习的端到端篇章事件抽取方法，其特征在于，包括：

S10，候选实体识别：获取文档数据，对所述文档中的每个句子进行编码，并识别得到多个候选实体的词嵌入张量表征；

S20，文档级编码：

S21，采用Attention机制将同一类的多个词嵌入张量合并为一个候选实体的嵌入张量，并形成一个候选实体，且共有多类词嵌入张量并对应有多个候选实体；

S22，对每个所得候选实体嵌入张量添加事件角色信息，并形成多个具备事件角色信息的候选实体张量表征；

S23，将所有具备事件角色信息的候选实体表征与添加了位置编码信息的句子表征送入第二Transformer模型，并进行文档级特征提取，以形成文档级感知的候选实体表征和句子表征；

S30，候选实体关系编码：采用改进的Attention机制对候选实体表征张量进行编码，并计算出任意两个候选实体是否具有关系，并生成候选实体关系表，候选实体关系表用以描述任意两个候选实体是否出现在同一事件中，若在同一事件中出现，则表示两个候选实体有关，否则无关；

S40，事件解码：依据候选实体关系表，生成以候选实体作为节点的树，所述树从根节点到每个叶子节点路径上的每个节点构成一个事件；

对根节点到每个叶子节点的每条路径解码出模型预测的事件集合；

对所述事件集合去重处理，并生成预测的事件。

2.根据权利要求1所述的基于深度学习的端到端篇章事件抽取方法，其特征在于，S10中候选实体识别的步骤如下：

在句子层面采用第一Transformer识别所述文档句子中的候选实体；

第一Transformer对文档句子中每句的词嵌入进行编码，并获得每个词嵌入的上下文表示；

且文档中的每个句子张量记为：其中，d_w为词嵌入的大小，l为句子的长度，为实数；

每个词嵌入的上下文编码记为h_i，并h_i＝Transformer-1(S_i)，既得出

训练时，使用BIO标注候选实体，并使用softmax对每个词嵌入的上下文编码h_i进行分类，进而得到每个句子张量S_i的候选实体其中，N_a为识别的候选实体数量，a_i为第i个候选实体，i为候选实体序号下标。

3.根据权利要求1所述的基于深度学习的端到端篇章事件抽取方法，其特征在于，S21中采用Attention机制形成多个候选实体的步骤为：

对于由n个词嵌入张量构成的候选实体a_i，将候选实体a_i在句子张量S_i中的下标范围记为从j到k，其中，a_i为第i个候选实体，S_i为第i个句子张量；

采用Attention机制将[h_i，j，...，h_i，k]合并为候选实体a_i的嵌入张量其中，d_w为词嵌入的大小，h_i为词嵌入的上下文编码，为实数；

同时，使用[cls]句头标识的词嵌入张量h₀作为句子S_i的嵌入张量并记为

并得出所有候选实体的嵌入张量集合和句子嵌入张量集合其中，N_a为识别的候选实体数量，为第i个候选实体嵌入张量，为第i个句子嵌入张量，i为嵌入向量序号下标，N_s为句子嵌入张量数量。