[发明专利]基于候选答案集重排序的自动问答方法、装置和存储介质

权利要求书

1.一种基于候选答案集重排序的自动问答方法，用于从原文中预测问题的答案，其特征在于，包括：

构建候选答案抽取网络，用于根据问题输入序列和原文输入序列输出由多个候选答案表示构成的候选答案表示集和获得各个所述候选答案表示对应的候选答案的第一评分，在所述候选答案表示集中，各个所述候选答案表示按照各个所述候选答案表示对应的候选答案成为预测答案的概率大小进行排序，成为所述预测答案概率越高的所述候选答案对应的第一评分越高，

构建答案重排网络，并使得所述候选答案表示集被输入至所述答案重排网络，以通过所述答案重排网络提取各个所述候选答案表示的语义特征，并根据提取的所述语义特征对各个所述候选答案表示对应的候选答案进行重新评分，以获得第二评分，并根据所述第二评分对各个所述候选答案表示所对应的答案进行重新排序，所述第二评分越高所述候选答案表示对应的所述候选答案成为预测答案的概率越高，

将所述第一评分和第二评分的进行加权，以获得评分加权值，将所述评分加权值最高的所述候选答案表示对应的候选答案作为所述问题的所述预测答案，

通过表示层、编码层、匹配层、抽取层和截取层构建成所述候选答案抽取网络，根据问题输入序列和原文输入序列输出由多个候选答案表示构成的候选答案表示集的步骤包括：

步骤11：通过所述表示层将所述问题输入序列和文本输入序列分别转换成问题词向量和原文词向量进行表示，

步骤12：通过编码层分别提取所述问题词向量和原文词向量的语义特征，以分别输出表征所述问题的问题表示和表征所述原文的第一原文表示，

步骤13：通过匹配层建立所述问题表示和第一原文表示的匹配关系，并根据所述匹配关系输出带有问题信息的第二原文表示，

步骤14：通过所述抽取层从所述第二原文表示中获得多个候选答案的首尾位置索引的分布概率，

步骤15：根据所述首尾位置索引对应的联合分布概率的大小按照所述候选的答案首尾位置索引通过所述截取层中所述第二原文表示中截取获得多个所述候选答案表示，

其中，所述第一评分为首位置分布概率和对应的尾位置分布概率之和，

通过自注意力层和全连接层、防过拟合层和线性层构建成所述答案重排网络，通过所述答案重排网络对各个所述候选答案表示对应的候选答案分别进行重新评分排序的步骤包括：

步骤21：通过所述自注意力层来计算所述候选答案表示集中的各个元素之间的注意力分布，以从各个所述候选答案表示中提取语义特征，

步骤22：将所述自注意力层输出的隐藏变量依次经过所述全连接层、防过拟合层和线性层，以根据所述语义特征对各个所述候选答案表示进行的重新评分，以获得第二评分。

2.根据权利要求1所述的自动问答方法，其特征在于，所述候选答案抽取网络根据所述问题输入序列和原文输入序列获得带有问题的原文表示，并从所述带有问题的原文表示中抽取获得多个待候选的答案表示，并获得多个所述待候选的答案表示对应所述候选答案成为所述预测答案的概率，并根据所述概率对各个所述候选答案表示进行排序以及根据所述概率获得所述第一评分，抽取所述概率靠前的K个所述待候选的答案表示构成所述候选答案表示集。

3.根据权利要求2所述的自动问答方法，其特征在于，

在所述表示层中，通过RoBERTa模型来获得所述问题词向量和原文词向量，其中，在所述RoBERTa模型的预训练过程中，遮掩所述问题输入序列和文本序列中的语义词，所述语义词包括由多个字构成的词，

在所述编码层中，通过长短记忆网络来提取所述问题词向量和文本词向量的语义特征，

在所述匹配层中，先通过迭代对齐方式实现所述问题和所述原文的对齐，然后通过自对齐方式实现带有问题的原文表示自身的对齐，最后通过神经循环网络拟合所述带有问题的原文表示，

在所述抽取层，通过具有答案记忆功能的指针网络来记录问题信息，并根据所记录的问题信息从所述带有问题的原文表示中得到答案首尾位置索引的分布概率。