[发明专利]基于关键词生成回复语句的方法及装置

权利要求书

1.一种基于关键词生成回复语句的方法，其特征在于，所述方法包括：

获取用户输入的提问语句，并生成所述提问语句对应的多个词向量；

使用编码器对多个所述词向量进行编码处理，以生成所述提问语句对应的隐藏层状态向量，其中，所述编码器包含第一LSTM隐藏层和第二LSTM隐藏层；所述第一LSTM隐藏层包含多个第一LSTM神经单元，所述第二LSTM隐藏层包含多个第二LSTM神经单元；

确定所述提问语句对应的关键词的词向量；

使用解码器对所述关键词的词向量以及所述隐藏层状态向量进行解码处理，以生成所述提问语句对应的回复语句，其中，所述解码器包含第三LSTM隐藏层和第四LSTM隐藏层；所述第三LSTM隐藏层包含多个第三LSTM神经单元，所述第四LSTM隐藏层包含多个第四LSTM神经单元；

所述使用解码器对所述关键词的词向量以及所述隐藏层状态向量进行解码处理，以生成所述提问语句对应的回复语句，包括：

根据所述提问语句对多个所述词向量进行排序，其中，所述提问语句对应的隐藏层状态向量具体为排序后的多个所述词向量中的最后一个词向量对应的第一LSTM神经单元的第一隐藏层状态向量和第二LSTM神经单元的第二隐藏层状态向量；

将排序后的多个所述词向量中的最后一个词向量对应的第一LSTM神经单元的第一隐藏层状态向量、第二LSTM神经单元的第二隐藏层状态向量以及所述关键词的词向量输入所述解码器；

通过所述第三LSTM神经单元将其对应的前一第三LSTM神经单元的第三隐藏层状态向量以及所述关键词的词向量代入第三非线性激活函数，以计算所述第三LSTM神经单元对应的第三隐藏层状态向量，其中，多个所述第三LSTM神经单元中的第一个第三LSTM神经单元对应的前一第三LSTM神经单元的第三隐藏层状态向量的取值为所述第一隐藏层状态向量；

通过所述第四LSTM神经单元将其对应的第三LSTM神经单元的第三隐藏层状态向量、前一第四LSTM神经单元的第四隐藏层状态向量以及所述前一第四LSTM神经单元对应的待解码词向量代入第四非线性激活函数，以计算所述第四LSTM神经单元对应的第四隐藏层状态向量，其中，多个所述第四LSTM神经单元中的第一个第四LSTM神经单元对应的前一第四LSTM神经单元的第四隐藏层状态向量的取值为所述第二隐藏层状态向量，所述前一第四LSTM神经单元对应的待解码词向量的取值为空向量；

根据所述第四LSTM神经单元对应的第四隐藏层状态向量确定所述第四LSTM神经单元对应的待解码词向量，并对所述待解码词向量进行解码处理，以生成所述第四LSTM神经单元对应的解码词；

当所述第四LSTM神经单元对应的解码词为句末标识符时，根据所述第四LSTM神经单元的前N个第四LSTM神经单元对应的解码词生成所述提问语句对应的回复语句。

2.根据权利要求1所述的方法，其特征在于，所述编码器包含第一LSTM隐藏层和第二LSTM隐藏层；所述第一LSTM隐藏层包含多个第一LSTM神经单元，所述第二LSTM隐藏层包含多个第二LSTM神经单元；所述使用编码器对多个所述词向量进行编码处理，以生成所述提问语句对应的隐藏层状态向量，包括：

根据所述提问语句对多个所述词向量进行排序；

将排序后的多个所述词向量依次输入所述编码器，以便所述编码器确定每个所述词向量对应的第一LSTM神经单元以及第二LSTM神经单元；

通过所述第一LSTM神经单元将其对应的词向量以及前一第一LSTM神经单元的第一隐藏层状态向量代入第一非线性激活函数，以计算所述第一LSTM神经单元对应的第一隐藏层状态向量，其中，排序后的多个所述词向量中的第一个词向量对应的第一LSTM神经单元的前一第一LSTM神经单元的第一隐藏层状态向量的取值为空向量；

通过所述第二LSTM神经单元将其对应的第一LSTM神经单元的第一隐藏层状态向量、前一第二LSTM神经单元的第二隐藏层状态向量以及空向量代入第二非线性激活函数，以计算所述第二LSTM神经单元对应的第二隐藏层状态向量，其中，排序后的多个所述词向量中的第一个词向量对应的第二LSTM神经单元的前一第二LSTM神经单元的第二隐藏层状态向量的取值为空向量；

将排序后的多个所述词向量中的最后一个词向量对应的第一LSTM神经单元的第一隐藏层状态向量和第二LSTM神经单元的第二隐藏层状态向量确定为所述提问语句对应的隐藏层状态向量。