[发明专利]完全并行化具有领域扩展性的端到端多轮对话系统及方法

权利要求书

1.一种完全并行化具有领域扩展性的端到端多轮对话系统，其特征在于，包括：

输入嵌入层，用于在用户输入信息输入至所述输入嵌入层后，生成向量表示形式的输入信息；

编码器，用于对所述向量表示形式的输入信息进行编码，得到用户输入的抽象表示；

对话状态解码器，用于根据所述抽象表示得到对话状态表示；

数据库，用于根据所述对话状态表示查询得到查询结果；以及

机器响应解码器，用于在所述查询结果和对话状态共同输入至机器响应解码器后，生成机器回答；

所述编码器由第一多层卷积神经网络和自注意力网络组成，其中，在每一层卷积神经网络之后，添加一个GLU网络，并在所述多层卷积神经网络之间应用残差网络，以提取用户输入的局部特征，并且使用所述自注意力网络捕获句子的全局依赖；

所述对话状态解码器由第二多层卷积神经网络和多跳注意力机制组成，所述第二多层卷积神经网络用于提取局部特征，所述多跳注意力机制结合深层特征高度抽象和浅层特征真实的优势，以从各层特征中获取相关信息，以为每层卷积网络添加单独的注意力机制；

所述机器响应解码器由卷积神经网络和多跳注意力机制组成，所述卷积神经网络用于提取局部特征，所述多跳注意力机制结合深层特征高度抽象和浅层特征真实的优势，以从各层特征中获取有益信息。

2.根据权利要求1所述的系统，其特征在于，所述编码器的输出为：

Y_enc＝Enc(InputEmb(u_tr_t-1))，

其中，Enc表示编码器，InputEmb表示输入嵌入层，u_t表示当前轮的用户输入，r_t-1表示上一轮的机器响应。

3.根据权利要求1所述的系统，其特征在于，其中，

其中，α_ij为解码器向量在编码器向量的注意力，e_ij为和的对齐分数，e_ik为和的对齐分数，T_x为编码器输入序列的总长度，n为0.5，W₁为线性层参数，为解码器的第i个语义向量，b₁为线性层参数，g_i为解码器的词向量经过一个线性层的输出，c_i为上下文向量，为最终上下文向量，W₂为线性层参数，b₂为线性层参数。

4.一种完全并行化具有领域扩展性的端到端多轮对话方法，其特征在于，所述方法由权利要求1-3任一项所述的系统执行，其中，所述方法包括以下步骤：

在用户输入信息输入至输入嵌入层后，生成向量表示形式的输入信息；

对所述向量表示形式的输入信息进行编码，得到用户输入的抽象表示；

根据所述抽象表示得到对话状态表示；

根据所述对话状态表示查询得到查询结果；以及

在所述查询结果和对话状态共同输入至机器响应解码器后，生成机器回答。