[发明专利]一种半监督司法实体及事件联合提取方法

权利要求书

1.一种半监督司法实体及事件联合提取方法，其步骤如下：

(1)司法文本以句为单位进行分词处理，形成词列表W＝w₁，w₂，...w_i...，w_n，w_i是第i个词，n是词的数量；

(2)司法文本数据多特征嵌入，将分词后的司法文本数据转换成数字向量，所述多特征嵌入包括字符嵌入、词嵌入、词性嵌入和依赖特征嵌入，形成多特征嵌入司法文本向量；其中所述司法文本数据多特征嵌入，以词为基准，将词对应的词性特征和依赖特征串联，并将词对应的多个字符向量串联，获得多特征嵌入司法文本向量，形成多特征嵌入司法文本向量序列V＝v₁，v₂，...v_i...，v_n；

(3)将步骤(2)得到的多特征嵌入司法文本向量输入经过训练的司法实体及事件联合提取模型，提取实体、事件和事件属性，具体包括：所述多特征嵌入司法文本向量输入双向LSTM网络，定义实体、事件和事件属性识别任务，在双向LSTM网络的输出层实现实体、事件和事件属性联合提取；其中所述多特征嵌入司法文本向量序列V输入双向LSTM网络，生成隐藏向量序列H＝h₁，h₂，...h_i...，h_n，hi为多特征嵌入司法文本向量输入双向LSTM网络生成的隐藏向量：

在每个隐藏向量hi中编码整个句子信息；

所述实体识别任务，表示为：

min(softmax(l(d_i,h_i))-e_i)

其中，min表示最小化函数；softmax为柔性最大化函数；l表示线性函数；d_i为若干词的多特征嵌入司法文本向量串联构成的上下文级联向量；h_i为多特征嵌入司法文本向量输入双向LSTM网络生成的隐藏向量；e_i为分配给每个词的实体标签，所有实体标签组成实体标签序列E；

所述事件识别任务，表示为：

min(softmax(l(d_i,h_i))-t_i)

其中，min表示最小化函数；softmax为柔性最大化函数；l表示线性函数；d_i为若干词的多特征嵌入司法文本向量串联构成的上下文级联向量；h_i为多特征嵌入司法文本向量输入双向LSTM网络生成的隐藏向量；t_i为分配给每个词的事件标签，所有事件标签组成事件标签序列T；

所述事件属性识别任务，表示为：

min(softmax(l(d_i,h_i,B_ij))-a_ij),B_ij＝tanh(μ(h_i-h_j)+σ)

其中，min表示最小化函数；softmax为柔性最大化函数；l表示线性函数；d_i为多特征嵌入司法文本向量的上下文级联向量；h_i为多特征嵌入司法文本向量输入双向LSTM网络生成的隐藏向量；a_ij为事件属性标签，所有事件属性标签组成事件属性标签序列A；B_ij为词列表中两个词对应的隐藏向量的相关性，以激活函数tanh表示，μ和σ为可训练的变量系数；

其中所述司法实体及事件联合提取模型的训练步骤，包括：

(a)分别建立实体、事件、事件属性的类型表和触发词汇表；

(b)数据标注：在样本集抽取固定数量样本，按照步骤(a)中的实体触发词汇表、事件触发词汇表及事件属性类型表，手动标注若干个文本，标注出实体、事件、事件属性，并将原始文本和标注文本成对形成的数据集分为训练集和测试集；

(c)所述原始文本按照所述半监督司法实体及事件联合提取方法进行实体、事件和事件属性的预测，对应训练时按批次数据进行联合概率对数最小化的惩罚函数为：

其中，a,β,γ是系数变量，从数据中学习；Π表示事件间的共生关系使用。