[发明专利]一种基于能量增强的注意力网络的答案识别方法及系统

权利要求书

1.一种基于能量增强的注意力网络的答案识别方法，通过一处理设备接收待处理文本，所述待处理文本包括段落文本和问题文本，所述段落文本为包含两个或以上句子的篇章级文本，其特征在于，所述处理设备内置一注意力网络处理所述的待处理文本，获得与答案相关的文本序列，所述基于能量增强的注意力网络的答案识别方法包括：

步骤11：接收输入的待处理文本，获取上下文向量；

步骤12：确定所述上下文向量的基础注意力向量，所述基础注意力向量表示所属向量的初始注意力权重；

步骤13：基于所述基础注意力向量，获取所述上下文向量每一个向量的增强向量组合，所述增强向量组合用于提高注意力向量的能量强烈程度；

步骤14：基于所述增强向量组合，采用所述注意力网络获得目标答案。

2.根据权利要求1所述的基于能量增强的注意力网络的答案识别方法，其特征在于，步骤11中所述获取上下文向量的步骤具体包括：

对待处理文本中的词进行词性标注；

获取待处理文本的全部实体，并对所述全部实体进行标注；

通过一个神经网络获取所述全部实体的上下文特征；

基于所述的上下文特征，获得上下文向量。

3.根据权利要求1所述的基于能量增强的注意力网络的答案识别方法，其特征在于，步骤12中，所述基础注意力向量有多个，所述上下文向量的每一个向量都有一个对应的基础注意力向量，所述基础注意力向量的值与其对应向量的位置、方向有关。

4.根据权利要求3所述的基于能量增强的注意力网络的答案识别方法，其特征在于，所述确定基础注意力向量的方法如公式（1）和公式（2）所示：

（1）

（2）

其中，表示所述段落文本到所述问题文本方向的基础注意力向量，表示所述问题文本到所述段落文本方向的基础注意力向量，为所述问题文本的长度，为所述段落文本的长度，是所述问题文本，是所述段落文本，∑为逐元素相加。

5.根据权利要求1所述的基于能量增强的注意力网络的答案识别方法，其特征在于，在所述的步骤13中，所述的增强向量组合包括局部能量补偿向量、全局能量补偿向量、能量强烈程度向量。

6.根据权利要求5所述的基于能量增强的注意力网络的答案识别方法，其特征在于，所述的步骤13中，所述增强向量组合的获取步骤包括：局部能量补偿向量的获取步骤、全局能量补偿向量的获取步骤、能量强烈程度向量的获取步骤。

7.根据权利要求6所述的基于能量增强的注意力网络的答案识别方法，其特征在于，所述的局部能量补偿向量的获取步骤如公式（3）至公式（5）所示：

（3）

（4）

（5）

其中：是局部能量补偿向量，表示所述段落文本每个字分别与所述问题文本进行碰撞比较的能量强度，计算方法是基于函数对所述概率相似矩阵沿问题文本的方向获取最大值；

表示所述段落文本与所述问题文本之间的相似矩阵，与分别代表计算处于所述段落文本与问题文本的位置，所述相似矩阵采用线性变换函数和非线性激励函数运算后得到的两个序列进行点乘运算获得；

是基于概率的相似矩阵，其获得方法是利用模型对所述相似矩阵沿着问题文本的方向计算获得。

8.根据权利要求6所述的基于能量增强的注意力网络的答案识别方法，其特征在于，所述的全局能量补偿向量的获取步骤如公式（6）所示：

（6）

其中，所述全局能量补偿向量表示所述段落文本的每个字与所述问题文本的最近距离，并将该距离概率化，具体的计算过程为：利用函数计算相似矩阵沿着问题文本的最大值，然后沿着所述段落文本对所述最大值计算值。