[发明专利]实体预测方法及装置

权利要求书

1.一种实体预测方法，其特征在于，该方法包括：

将待预测三元组对应的文本序列输入第一实体表征模型，其中所述待预测三元组包含已知实体、所述已知实体与待预测实体之间的关系以及待预测实体，得到所述待预测实体的表征向量；

利用所述待预测实体的表征向量在预先构建的知识仓库中查询，得到表征向量与所述待预测实体的表征向量之间的相似度满足预设相似度要求的实体作为候选实体，其中所述知识仓库包含各实体对应的表征向量；

将所述待预测实体的表征向量和所述候选实体输入第一表征映射模型，得到待预测实体在各候选实体上的预测置信度；

依据所述待预测实体在各候选实体上的预测置信度，从所述候选实体中确定所述待预测实体的预测结果。

2.根据权利要求1所述的方法，其特征在于，所述第一实体表征模型和所述第一表征映射模型采用如下方式预先训练得到：

获取第一训练数据，所述第一训练数据包括多个三元组样本，所述三元组样本包括两个实体和该两个实体之间的关系；

利用所述第一训练数据训练所述第一实体表征模型和所述第一表征映射模型；其中将所述三元组样本对应的第一文本序列输入第一实体表征模型，在所述三元组样本对应的第一文本序列中的一个实体被掩膜，所述第一实体表征模型输出被掩膜实体对应的表征向量至所述第一表征映射模型，所述第一表征映射模型利用被掩膜实体对应的表征向量输出被掩膜实体的预测结果；训练目标为最小化所述第一表征映射模型输出的预测结果与三元组样本中被掩膜实体的差异，所述第一实体表征模型采用预训练语言模型。

3.根据权利要求1所述的方法，其特征在于，所述知识仓库采用如下方式预先构建：

针对实体库中的各实体，分别执行：获取包含该实体的三元组，在该三元组对应的第一文本序列中将该实体掩膜，将该三元组对应的第一文本序列输入所述第一实体表征模型，以得到该实体的表征向量并存储至知识仓库。

4.根据权利要求1或3所述的方法，其特征在于，所述知识仓库采用如下方式预先构建：

针对实体库中的各实体或者从页面中提取的各实体分别执行：利用预训练语言模型基于提示prompt学习机制从包含实体和该实体的描述文本中学习该实体的表征向量，并将该实体的表征向量存储至知识仓库。

5.根据权利要求4所述的方法，其特征在于，所述利用预训练语言模型基于提示prompt机制从包含实体和该实体的描述文本中学习该实体的表征向量包括：

获取第二训练数据，所述第二训练数据包括实体和实体的描述文本；

利用所述第二训练数据训练第二实体表征模型和第二表征映射模型，其中将第二训练数据中的实体掩膜后与该实体的描述文本填入预设的提示prompt模板得到第二文本序列，将所述第二文本序列输入第二实体表征模型，所述第二实体表征模型输出被掩膜实体对应的表征向量至所述第二表征映射模型，所述第二表征映射模型利用所述被掩膜实体对应的表征向量输出被掩膜实体的预测结果；训练目标为最小化所述第二表征映射模型输出的预测结果与被掩膜实体的差异；其中所述第二实体表征模型采用预训练语言模型；

训练结束后从所述第二实体表征模型获取所述第二训练数据中各实体的表征向量并存储至所述知识仓库。

6.根据权利要求5所述的方法，其特征在于，所述prompt模板包括被掩膜实体的槽位、实体的描述文本的槽位以及提示信息；

其中所述提示信息用以从语义上提示被掩膜部分需要预测的内容类型。

7.根据权利要求1所述的方法，其特征在于，依据所述待预测实体在各候选实体上的预测置信度，从所述候选实体中确定所述待预测实体的预测结果包括：

针对各候选实体，分别将候选实体的表征向量与所述待预测实体的表征向量之间的相似度以及所述待预测实体在该候选实体上的预测置信度进行加权处理，得到该候选实体的得分；

从所述候选实体中选择得分最高的候选实体作为所述待预测实体的预测结果。