[发明专利]基于歧义实体词的文本处理方法和装置

权利要求书

1.一种基于歧义实体词的文本处理方法，其特征在于，包括以下步骤：

获取待消歧文本的上下文，以及所述待消歧文本表征的至少两个候选实体；其中，所述至少两个候选实体具有不同语义；

根据经过训练的词向量模型，生成所述上下文的语义向量；

根据经过训练的无监督神经网络模型，生成所述至少两个候选实体的第一实体向量；其中，所述无监督神经网络模型已学习得到各实体的文本语义以及各实体之间的关系；

根据所述上下文的语义向量和所述至少两个候选实体的第一实体向量，确定所述上下文与每一个候选实体之间的相似度；

根据所述上下文与每一个候选实体之间的相似度，从至少两个候选实体中，确定出所述待消歧文本在所述上下文中所表征的目标实体；

所述根据经过训练的无监督神经网络模型，生成所述至少两个候选实体的第一实体向量之前，还包括：

采用经过训练的有监督神经网络模型，生成预设知识库中各实体的第二实体向量；所述有监督神经网络模型已学习得到各实体的语义；

根据所述知识库中各实体的第二实体向量，对所述无监督神经网络模型输出的各实体的第一实体向量进行初始化；

根据实体间关联关系，对初始化后的无监督神经网络模型进行训练。

2.根据权利要求1所述的文本处理方法，其特征在于，所述采用经过训练的有监督神经网络模型，生成所述知识库中各实体的第二实体向量之前，还包括：

根据知识库中各实体的属性，以及各实体的介绍信息提取的关键字，生成训练样本的正例；

根据所述知识库中各实体的全部文本描述信息，生成训练样本的负例；

根据所述训练样本，对有监督神经网络模型进行训练；其中，所述有监督神经网络模型包括：用于输入训练样本中各文本的语义向量的第一层，以及用于预测第一层输入文本所描述实体的第二层；所述第二层的参数，用于生成所述第二实体向量；

当所述有监督神经网络模型中，第一层输入的训练样本中文本用于描述所述第二层输出的实体时，确定所述有监督神经网络模型训练完成。

3.根据权利要求2所述的文本处理方法，其特征在于，所述根据所述知识库中各实体的全部文本描述信息，生成训练样本的负例，包括：

对所述知识库中各实体的全部文本描述信息进行切词处理后，对切词得到的各词条进行词频统计；

根据各词条的词频，对各词条进行负采样，得到所述训练样本的负例。

4.根据权利要求1所述的文本处理方法，其特征在于，所述根据实体间关系，对初始化后的无监督神经网络模型进行训练，包括：

根据知识库中存在关联关系的各实体，和/或，根据搜索日志中存在共现关系的实体，对初始化后的无监督神经网络模型进行训练；

当所述无监督神经网络模型输出的第一实体向量之间的距离相对应于实体之间关系紧密程度时，其中，所述第一实体向量已学习到各实体语义以及各实体之间关系，所述无监督神经网络模型训练完成。

5.根据权利要求1-4任一项所述的文本处理方法，其特征在于，所述根据经过训练的词向量模型，生成所述上下文的语义向量之前，还包括：

针对不同的应用场景，分别生成对应的训练语料；

采用各应用场景对应的训练语料进行词向量模型训练，以得到各应用场景适用的词向量模型。

6.根据权利要求1-4任一项所述的文本处理方法，其特征在于，所述生成所述至少两个候选实体的第一实体向量之后，还包括：

根据所述至少两个候选实体的第一实体向量，确定不同候选实体之间的相似度；

根据不同候选实体之间的相似度，进行实体关系挖掘或实体推荐。