[发明专利]一种基于动态语义编码和双注意力的文本匹配方法及装置

说明书

本发明实施例提供一种基于动态语义编码和双注意力的文本匹配方法及装置，包括：获取待匹配的第一文本和第二文本，对第一文本和第二文本进行动态语义编码并向量化，得到第一语义文本向量和第二语义文本向量；通过LSTM提取第一语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第一文本全局向量；以及，通过LSTM提取对第二语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第二文本全局向量；通过线性层计算第一文本全局向量和第二文本全局向量的相似度，判断待匹配的第一文本和第二文本是否匹配。对待匹配文本动态语义编码并向量化，通过LSTM辅以双注意力提炼上下文向量，获得更高的文本匹配精度。

技术领域

本发明涉及语言处理领域，具体涉及一种基于动态语义编码和双注意力的文本匹配方法及装置。

背景技术

语义匹配是自然语言处理领域的一个基本任务，其可以应用到很多实际应用方面。

在实现本发明过程中，申请人发现现有技术中至少存在如下问题：

传统的语义匹配通常依赖于提取某些具体的匹配模式或某些特征，然而这种方式往往会造成过多的误匹配以及很难覆盖住所有的样本。而现有的语义匹配方法存在以下缺点：第一，现有的语义匹配的许多模型都是通过固定词向量编码的方式进行训练的，或者是通过word2vec等技术提前预训练好一批词向量，或者是初始化一个词向量矩阵，然后在训练过程中不断迭代，但在预测过程中，给定不同的文本序列，获得的词向量序列都是一样的，这可能会导致一些歧义现象。第二，现有许多语义匹配模型未将注意力集中在更重要的数据部分，不利于提升模型表现。

发明内容

本发明实施例提供一种基于动态语义编码和双注意力的文本匹配方法及装置，以提升文本的语义匹配精度。

为达上述目的，一方面，本发明实施例提供一种基于动态语义编码和双注意力的文本匹配方法，包括：

获取待匹配的第一文本和第二文本，对第一文本和第二文本进行动态语义编码并向量化，得到第一语义文本向量和第二语义文本向量；

通过双向模型LSTM提取第一语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第一文本全局向量；以及，通过双向模型LSTM提取对第二语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第二文本全局向量；

通过线性层计算第一文本全局向量和第二文本全局向量的相似度，判断待匹配的第一文本和第二文本是否匹配。

另一方面，本发明实施例提供一种基于动态语义编码和双注意力的文本匹配装置，包括：

动态编码模块，用于获取待匹配的第一文本和第二文本，对第一文本和第二文本进行动态语义编码并向量化，得到第一语义文本向量和第二语义文本向量；

双注意力模块，用于通过双向模型LSTM提取第一语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第一文本全局向量；以及，通过双向模型LSTM提取对第二语义文本向量的上下文向量，根据注意力机制将所有上下文向量形成第二文本全局向量；

相似度判断模块，用于通过线性层计算第一文本全局向量和第二文本全局向量的相似度，判断待匹配的第一文本和第二文本是否匹配。

上述技术方案具有如下有益效果：通过对两个待匹配的文本进行动态语义编码并向量化，之后将各编码向量传入双向模型LSTM中，并分别辅以双注意力机制提炼上下文向量，将两个待匹配文本生成各自的全局向量。最后将全局向量传入线性层计算文本相似性得到语义匹配结果，能够获得更高的文本匹配准确度。

附图说明