[发明专利]训练实体识别和关系分类模型的方法、装置、设备及介质

权利要求书

1.一种训练命名实体识别和关系分类模型的方法，其特征在于，包括：

获得多个样本语料，每个样本语料携带命名实体标签和关系标签；

将所述多个样本语料输入所述命名实体识别和关系分类模型的单词嵌入层，得到关系矩阵，所述关系矩阵表征所述多个样本语料中每个样本语料携带的命名实体标签的词向量和关系标签；

将所述多个样本语料中每个样本语料携带的命名实体标签的词向量输入LSTM编码层，得到所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量；其中，所述命名实体标签的上下文编码向量是通过所述LSTM编码层编码获得每一个所述命名实体标签的词向量与相邻的两个命名实体标签的词向量之间的关系，其中，相邻是指命名实体标签的词向量两两之间编码得到上下文编码向量；

将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量输入命名实体识别模块，根据所述多个样本语料中每个样本语料携带的命名实体标签，对所述命名实体识别模块进行多次训练；

将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量和词向量输入关系分类模块，根据所述多个样本语料中每个样本语料携带的关系标签，对所述关系分类模块进行多次训练；

经过多次训练后，得到命名实体识别和关系分类模型，所述命名实体识别和关系分类模型用于识别待识别语料包含的命名实体和命名实体之间的关系；

在将所述多个样本语料输入所述命名实体识别和关系分类模型的单词嵌入层，得到关系矩阵之后，所述方法还包括：采用基于SVD的降维算法，对所述关系矩阵进行奇异值分解，得到低维的关系矩阵。

2.根据权利要求1所述的方法，其特征在于，所述LSTM编码层包括前向LSTM编码层、后向LSTM编码层和连接层；将所述多个样本语料中每个样本语料携带的命名实体标签的词向量输入LSTM编码层，得到所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量，包括：

将所述多个样本语料中每个样本语料携带的命名实体标签的词向量输入所述前向LSTM编码层，得到所述多个样本语料中每个样本语料携带的命名实体标签的上文编码向量；

将所述多个样本语料中每个样本语料携带的命名实体标签的词向量输入所述后向LSTM编码层，得到所述多个样本语料中每个样本语料携带的命名实体标签的下文编码向量；

将所述多个样本语料中每个样本语料携带的命名实体标签的上文编码向量和下文编码向量输入所述连接层，得到所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量。

3.根据权利要求1所述的方法，其特征在于，所述命名实体识别模块包括LSTM解码层和第一softmax层；将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量输入命名实体识别模块，根据所述多个样本语料中每个样本语料携带的命名实体标签，对所述命名实体识别模块进行多次训练，包括：

将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量输入所述LSTM解码层，得到所述多个样本语料中每个样本语料携带的命名实体标签的上下文解码向量；

采用条件随机场CRF中的特征函数，对所述多个样本语料中每个样本语料携带的命名实体标签的上下文解码向量进行处理，并将处理后得到的结果输入所述第一sofmax层，获得所述第一sofmax层输出的结果；

根据所述第一sofmax层输出的结果和所述多个样本语料中每个样本语料携带的命名实体标签，对所述命名实体识别模块进行多次训练。

4.根据权利要求1所述的方法，其特征在于，所述关系分类模块包括CNN层和第二softmax层；将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量和词向量输入关系分类模块，根据所述多个样本语料中每个样本语料携带的关系标签，对所述关系分类模块进行多次训练，包括：

将所述多个样本语料中每个样本语料携带的命名实体标签的上下文编码向量和词向量输入所述CNN层，通过所述CNN层进行卷积操作，得到CNN卷积结果；

将所述CNN卷积结果输入所述第二sofmax层，得到所述第二sofmax层输出的结果；

根据所述第二sofmax层输出的结果和所述多个样本语料中每个样本语料携带的关系标签，对所述关系分类模块进行多次训练。