[发明专利]语义的消歧方法及装置、存储介质、电子装置

说明书

本发明提供了一种语义的消歧方法及装置、存储介质、电子装置，其中，该方法包括：获取输入语句，其中，所述输入语句包括若干个待消歧的词单元；将所述输入语句中的每个词单元转换为词向量和上下文语义向量，并采用所述词向量和所述上下文语义向量拼接生成所述词单元的上下文语义嵌入向量；采用预设语义知识库获取每个所述词单元的定义嵌入概率，其中，所述预设语义知识库包括所述词单元的若干个语义信息；对所述定义嵌入概率和所述上下文语义嵌入向量进行点积融合，输出所述词单元的语义信息。通过本发明，解决了相关技术对语义进行消歧的效率低的技术问题，提高了语句的识别准确率，实现了单词的精准语义识别。

技术领域

本发明涉及计算机领域，具体而言，涉及一种语义的消歧方法及装置、存储介质、电子装置。

背景技术

相关技术中，词义消歧是自然语言处理中一个困扰已久但是未被很好解决的问题，同时词义消歧又是自然语言处理的核心问题之一，词义、句义以及篇章含义层次都会根据不同的上下文环境产生不同的意义，消歧就是指根据上下文确定对象语义的过程。现阶段进行词义消歧一般是通过人工注释的数据集来训练学习模型，再做相应的预测任务，但是由于人工注释代价昂贵，数据集通常规模很小，对于数据集中没有出现过或者不常见的单词，模型的预测能力表现不佳。

相关技术中，对于上下文语义嵌入，相关技术的有监督词义消歧方法将词义视为一个一个离散的标签，没有考虑该单词上下文的语境，对于训练过程中很少出现的单词的词义的预测不准确，对于训练过程中没有出现过的单词的词义的预测采用最频繁使用的该项词义。这导致在未出现和很少出现的单词的词义上预测性能低下，相关技术的有监督词义消歧的方法将词义视为离散的标签，丢失部分语义信息，这导致在未出现或者不常出现的词的语义上表现不佳。相关技术中，对于定义嵌入，考虑到用来做词义消歧的人工标注数据集很少并且昂贵。相关技术的词义消歧的方法需要用到大量人工标注的数据才能达到较好的预测性能，成本颇高。

针对相关技术中存在的上述问题，目前尚未发现有效的解决方案。

发明内容

本发明实施例提供了一种语义的消歧方法及装置、存储介质、电子装置。

根据本发明的一个实施例，提供了一种语义的消歧方法，包括：获取输入语句，其中，所述输入语句包括若干个待消歧的词单元；将所述输入语句中的每个词单元转换为词向量和上下文语义向量，并采用所述词向量和所述上下文语义向量拼接生成所述词单元的上下文语义嵌入向量；采用预设语义知识库获取每个所述词单元的定义嵌入概率，其中，所述预设语义知识库包括所述词单元的若干个语义信息；对所述定义嵌入概率和所述上下文语义嵌入向量进行点积融合，输出所述词单元的语义信息。

可选的，将所述输入语句中的每个词单元转换为词向量包括：将所述输入语句分割成单词序列，采用特征提取器将所述单词序列转换为特征向量集合；将所述输入语句中各个词单元对应的特征向量输入双向长时间的短期记忆网络BiLSTM层，正向LSTM根据输入的特征向量输出正向隐状态序列h_f,表示第i个词单元的的正向隐状态，反向LSTM根据输入的特征向量输出反向隐状态序列h_b,表示第i个词单元的的反向隐状态；针对每个词单元，将所述正向隐状态序列h_f和所述反向隐状态序列h_b进行拼接得到完整的隐状态序列,并将所述隐状态序列确定为对应词单元的词向量。

可选的，将所述输入语句中的每个词单元转换上下文语义向量包括：使用缩放的点积注意力机制在每个时间步长获取上下文信息；针对第i个词单元x_i，计算词向量uⁱ与其他时间状态的词向量之间的相似度,得到得x_i的第一注意力矩阵；将所述第一注意力矩阵转变成标准正态分布的第二注意力矩阵；采用所述第二注意力矩阵对投影矩阵加权，并和词向量做点积，生成上下文语义向量。