[发明专利]基于深度学习的文本实体匹配方法、系统、装置

权利要求书

1.一种基于深度学习的文本实体匹配方法，其特征在于，该方法包括以下步骤：

步骤S10，获取待实体匹配的第一文本、第二文本，并对所述第一文本、所述第二文本进行词嵌入生成第一词向量序列e^A、第二词向量序列e^B；

步骤S20，采用基于自注意力机制的双向门控循环单元Bi-GRU分别提取e^A、e^B中每个词向量的上下文语义向量，构建第一语义向量序列第二语义向量序列

步骤S30，将e^A作为输入序列，将e^B作为背景序列，将作为输入融合序列，将作为背景关联序列，通过基于互注意力机制的高速路神经网络得到融合序列，并根据该融合序列和e^A，通过门控网络得到e^A中每个词向量的总结表示，构建第一总结序列；

步骤S40，基于全局注意力机制获取所述第一总结序列中每个词向量的总结表示的权重，进行加权和得到e^A的总结向量表示S^A；

步骤S50，将e^B作为输入序列，将e^A作为背景序列，将作为输入融合序列，将作为背景关联序列，通过基于互注意力机制的高速路神经网络得到融合序列，并根据该融合序列和e^B，通过门控网络得到e^B中每个词向量的总结表示，构建第二总结序列；基于全局注意力机制获取所述第二总结序列中每个词向量的总结表示的权重，进行加权和得到e^B的总结向量表示S^B；

步骤S60，基于S^A、S^B，通过高速路神经网络得到最终总结向量表示，并根据该表示，通过Softmax分类器得到所述第一文本、所述第二文本的实体匹配结果。

2.根据权利要求1所述的基于深度学习的文本实体匹配方法，其特征在于，步骤S10中“对所述第一文本、所述第二文本进行词嵌入生成第一词向量序列e^A、第二词向量序列e^B”，其方法为：通过FastText算法对所述第一文本、所述第二文本进行词嵌入，生成第一词向量序列e^A、第二词向量序列e^B。

3.根据权利要求1所述的基于深度学习的文本实体匹配方法，其特征在于，步骤S20中“采用基于自注意力机制的双向门控循环单元Bi-GRU分别提取e^A、e^B中每个词向量的上下文语义向量，构建第一语义向量序列第二语义向量序列其方法为：

基于e^A、e^B，通过所述双向门控循环单元Bi-GRU分别进行编码得到第一编码序列、第二编码序列；

基于自注意力机制分别得到所述第一编码序列、所述第二编码序列中每个词向量关于该编码序列的权重，对每个词向量进行加权平均得到上下文语义向量；

分别基于所述第一编码序列得到的上下文语义向量、所述第二编码序列得到的上下文语义向量，构建第一语义向量序列第二语义向量序列

4.根据权利要求1所述的基于深度学习的文本实体匹配方法，其特征在于，步骤S30中“通过基于互注意力机制的高速路神经网络得到融合序列”，其方法为：

基于互注意力机制Pair-Attention获取所述输入序列关于所述背景序列的权重矩阵，根据该权重矩阵和所述背景关联序列得到词向量关联序列；

基于所述词向量关联序列、所述输入融合序列，通过高速路神经网络进行融合得到融合序列。

5.根据权利要求4中所述的基于深度学习的文本实体匹配方法，其特征在于，“基于所述词向量关联序列、所述输入融合序列，通过高速路神经网络进行融合得到融合序列”，其方法为：

u^A＝Highway([x，y，|x-y|，xey])

其中，u^A为融合序列，x为自变量，代表输入融合序列，y为因变量，代表词向量关联序列，Highway代表高速路神经网络。