[发明专利]一种层级对齐结构的问答立场检测方法及装置

权利要求书

1.一种层级对齐结构的问答立场检测方法，其步骤包括：

1)分别将问题文本与回答文本转换为问题序列与回答序列；

2)拼接问题序列与回答序列，得到问题回答序列；

3)将问题序列、回答序列及问题回答序列输入层次对齐模型，得到问答立场检测结果；

其中，通过以下步骤获取问答立场检测模型：

a)分别将若干样本问题文本与若干样本回答文本转换为样本问题序列与样本回答序列，并拼接样本问题序列与相应的样本回答序列，得到若干样本问题回答序列；

b)分别编码各样本问题序列、样本回答序列及样本问题回答序列，得到若干的问题序列表示S_Q、回答序列表示S_A及粗粒度立场表示S_QA；

c)以问题序列表示S_Q作为查询且将相应的回答序列表示S_A作为键和值，获取若干的依赖于问题的回答表示M_Q→A，以回答序列表示S_A作为查询且将相应的回答序列表示S_Q作为键和值，获取若干的依赖于回答的问题表示M_A→Q，并连接依赖于问题的回答表示M_Q→A与相应的依赖于回答的问题表示M_A→Q，得到若干细粒度表示，记作D_QA；

d)基于多头注意力机制，对齐细粒度表示D_QA与相应的粗粒度立场表示S_QA之间证据相关的句子含义，得到若干的由粗到精立场向量表示O；

e)通过对若干的由粗到精立场向量表示O进行分类，获取层次对齐模型。

2.如权利要求1所述的方法，其特征在于，编码样本问题序列、样本回答序列及样本问题回答序列的方法包括：使用预训练BERT模型。

3.如权利要求1所述的方法，其特征在于，通过以下步骤获取依赖于问题的回答表示M_Q→A：

1)以问题序列表示S_Q作为查询且将相应的回答序列表示S_A作为键和值，获取第一个回答-问题匹配块的输出，其步骤包括：

a)得到第i个头的输出其中是的维度，d为样本问题文本与样本回答文本转换为样本问题序列与样本回答序列的嵌入尺寸，h为头的数量，是可学习的参数，1≤i≤h；

b)拼接h个头的输出，并对拼接结果进行线性投影运算，得到运算结果MATT(S_Q，S_A)＝[ATT₁(S_Q，S_A)，ATT₂(S_Q，S_A)，...，ATT_h(S_Q，S_A)W^O，其中是可学习的参数；

c)在问题序列表示S_Q与运算结果MATT(S_Q，S_A)之间进行残差连接，得到结果Z＝LN(S_Q+MATT(S_Q，S_A))，其中LN为层次归一化操作；

d)将结果Z接入一个前馈网络与另一个残差连接层，得到第一个transformer编码器的输出TIM₁(S_Q，S_A)＝LN(Z+MLP(Z))，其中MLP为前馈网络；

2)通过堆积l_m个回答-问题匹配块，获取依赖于问题的回答表示

4.如权利要求3所述的方法，其特征在于，由粗到精立场向量表示O＝MATT′(D_QA，S_QA)＝[ATT′₁(D_QA，S_QA)，...，ATT′_h′(D_QA，S_QA)]W′^O，其中是可学习的参数，1≤j≤h′，h′是注意力头的个数。