[发明专利]基于深度学习的实体和实体关系识别方法及装置

权利要求书

1.一种基于深度学习的实体和实体关系识别方法，其特征在于，包括以下步骤：

输入文本，并将所述文本转换为词向量，其中，采用实体位置、实体关系和关系位置的标记方式；

通过编解码的方式对所述词向量进行序列标注，以获取序列标注的词向量；以及

对模型的输出进行第二次排序，其中，选择每个单词的概率最高的预设数量的标签作为候选，并进行标签配对，以配对成功后获取正确标签。

2.根据权利要求1所述的基于深度学习的实体和实体关系识别方法，其特征在于，所述通过编解码的方式对所述词向量进行序列标注，进一步包括：

采用双向LSTM模型，并将两个方向的LSTM网络在每个时间节点的输出进行拼接，输入到解码器的所述LSTM网络，其中，所述LSTM网络采用单向LSTM网络，对每个时间节点的隐藏状态输出做全连接网络的转换，输入soft Max选择标记。

3.根据权利要求2所述的基于深度学习的实体和实体关系识别方法，其特征在于，还包括：

采用多标签分类技术与神经网络的融合，采用预设的损失函数进行网络优化，所述预设的损失函数为：

其中，E_i表示一个训练集，Y_i表示应该有的标签，表示不应该有的标签。表示在i个单词的应该有的标签的输出概率，表示在i个单词对应的不应该有的标签的输出概率。

4.根据权利要求1所述的基于深度学习的实体和实体关系识别方法，其特征在于，所述输入文本，并将所述文本转换为词向量，其中，采用实体位置、实体关系和关系位置的标记方式，还包括：

采用谷歌预训练好的词向量模型进行初始化，所述词向量随着模型训练进行自动优化。

5.根据权利要求4所述的基于深度学习的实体和实体关系识别方法，其特征在于，所述实体位置为一个实体的开始、结尾、单个实体、中间实体，所述实体关系为预设好的希望识别的实体关系，所述关系位置为该实体是这个实体关系的主语还是宾语。

6.一种基于深度学习的实体和实体关系识别装置，其特征在于，包括：

词向量模块，用于输入文本，并将所述文本转换为词向量，其中，采用实体位置、实体关系和关系位置的标记方式；

序列标注模块，用于通过编解码的方式对所述词向量进行序列标注，以获取序列标注的词向量；以及

re-rank模块，用于对模型的输出进行第二次排序，其中，选择每个单词的概率最高的预设数量的标签作为候选，并进行标签配对，以配对成功后获取正确标签。

7.根据权利要求6所述的基于深度学习的实体和实体关系识别装置，其特征在于，所述序列标注模块还用于采用双向LSTM模型，并将两个方向的LSTM网络在每个时间节点的输出进行拼接，输入到解码器的所述LSTM网络，其中，所述LSTM网络采用单向LSTM网络，对每个时间节点的隐藏状态输出做全连接网络的转换，输入soft Max选择标记。

8.根据权利要求7所述的基于深度学习的实体和实体关系识别装置，其特征在于，采用多标签分类技术与神经网络的融合，采用预设的损失函数进行网络优化，所述预设的损失函数为：

其中，E_i表示一个训练集，Y_i表示应该有的标签，表示不应该有的标签。表示在i个单词的应该有的标签的输出概率，表示在i个单词对应的不应该有的标签的输出概率。

9.根据权利要求6所述的基于深度学习的实体和实体关系识别装置，其特征在于，所述词向量模块还用于采用谷歌预训练好的词向量模型进行初始化，所述词向量随着模型训练进行自动优化。

10.根据权利要求9所述的基于深度学习的实体和实体关系识别装置，其特征在于，所述实体位置为一个实体的开始、结尾、单个实体、中间实体，所述实体关系为预设好的希望识别的实体关系，所述关系位置为该实体是这个实体关系的主语还是宾语。