[发明专利]基于关键词生成回复语句的方法及装置

说明书

本发明实施例公开了一种基于关键词生成回复语句的方法及装置，涉及自然语言处理技术领域，提高了人机对话系统生成回复语句的内容丰富度。本发明实施例主要技术方案为：获取用户输入的提问语句，并生成所述提问语句对应的多个词向量；使用编码器对多个所述词向量进行编码处理，以生成所述提问语句对应的隐藏层状态向量；确定所述提问语句对应的关键词的词向量；使用解码器对所述关键词的词向量以及所述隐藏层状态向量进行解码处理，以生成所述提问语句对应的回复语句。本发明实施例主要应用于人机对话系统生成回复语句。

技术领域

本发明实施例涉及自然语言处理技术领域，尤其涉及一种基于关键词生成回复语句的方法及装置。

背景技术

随着人工智能技术的不断发展，基于Seq2Seq(Sequence to Sequence，序列到序列)模型开发的人机对话系统逐渐受到人们的关注。其中，Seq2Seq模型由编码器和解码器组成，当人机对话系统接收到终端用户输入的提问语句后，人机对话系统首先使用编码器将提问语句编码为一个状态向量，然后使用解码器对该状态向量进行解码处理，从而生成回复语句。

发明人在实现本发明的过程中，发现现有技术中存在以下技术问题，由于，在对Seq2Seq模型进行训练时，通常采用最大似然法进行训练，因此，会导致出现频率较高的回复语句更容易被生成的情况发生，从而使得人机对话系统很大概率会生成“不知道”、“好的”等无实质意义的通用回复语句，进而导致人机对话无法再进行下去，使得终端用户的用户体验较差。

发明内容

有鉴于此，本发明实施例提供一种基于关键词生成回复语句的方法及装置，主要目的在于提高人机对话系统生成回复语句的内容丰富度。

为了达到上述目的，本发明实施例主要提供如下技术方案：

第一方面，本发明实施例提供了一种基于关键词生成回复语句的方法，该方法包括：

获取用户输入的提问语句，并生成所述提问语句对应的多个词向量；

使用编码器对多个所述词向量进行编码处理，以生成所述提问语句对应的隐藏层状态向量；

确定所述提问语句对应的关键词的词向量；

使用解码器对所述关键词的词向量以及所述隐藏层状态向量进行解码处理，以生成所述提问语句对应的回复语句。

可选的，所述编码器包含第一LSTM隐藏层和第二LSTM隐藏层；所述第一LSTM隐藏层包含多个第一LSTM神经单元，所述第二LSTM隐藏层包含多个第二LSTM神经单元；所述使用编码器对多个所述词向量进行编码处理，以生成所述提问语句对应的隐藏层状态向量，包括：

根据所述提问语句对多个所述词向量进行排序；

将排序后的多个所述词向量依次输入所述编码器，以便所述编码器确定每个所述词向量对应的第一LSTM神经单元以及第二LSTM神经单元；

通过所述第一LSTM神经单元将其对应的词向量以及前一第一LSTM神经单元的第一隐藏层状态向量代入第一非线性激活函数，以计算所述第一LSTM神经单元对应的第一隐藏层状态向量，其中，排序后的多个所述词向量中的第一个词向量对应的第一LSTM神经单元的前一第一LSTM神经单元的第一隐藏层状态向量的取值为空向量；

通过所述第二LSTM神经单元将其对应的第一LSTM神经单元的第一隐藏层状态向量、前一第二LSTM神经单元的第二隐藏层状态向量以及空向量代入第二非线性激活函数，以计算所述第二LSTM神经单元对应的第二隐藏层状态向量，其中，排序后的多个所述词向量中的第一个词向量对应的第二LSTM神经单元的前一第二LSTM神经单元的第二隐藏层状态向量的取值为空向量；