[发明专利]一种智能问答系统及方法

说明书

本申请公开了一种智能问答系统，包括：话题模型模块和问答模型模块，其中：所述话题模型模块，以问句信息为输入，输出对应于所述问句信息的话题信息；所述问答模型模块，以所述问句信息及其对应的话题信息为输入，通过联合注意力机制对所述问句信息及其对应的话题信息进行处理，得到对应于所述问句信息的回答信息。本申请还公开了一种智能问答方法。应用本申请公开的技术方案，能够提高智能问答系统所生成的回答信息的有效性，并加快模型训练速度。

技术领域

本申请涉及智能问答技术领域，特别涉及一种智能问答系统及方法。

背景技术

智能问答系统主要分为任务导向性的对话系统和非任务导向的聊天机器人。在聊天机器人中构建对话引擎的方法就是利用大规模的社会对话数据,在机器翻译框架里学习一个回答生成模型。目前，基于神经网络的方法成为主流趋势，因为基于神经网络的方法可以抓住输入文本和回答文本之间的语义和语法关系。但是，现有的机器翻译模型，例如：带注意力机制的Seq2Seq，倾向于生成一些无意义的回答，很容易导致用户结束对话。

LSTM(Long Short-Term Memory：长短期记忆网络)是一种时间循环神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。

Seq2Seq即Sequence to Sequence，Seq2Seq是一种能够根据给定的序列,通过特定的方法生成另一个序列的方法。

现有的一种基于LSTM的深度学习方案如下：

采用Seq2Seq的模型方案，利用LSTM对编码器-解码器进行学习，得到序列到序列模型的问答系统。它是由两个LSTM组成的：一个编码器和一个解码器。编码器将问题序列作为输入，并在每个时间点处理一个符号。其目的就是将符号序列转换为固定大小的特征向量，该向量仅对序列中的重要信息进行编码，同时丢弃不必要的信息。

每个隐藏状态都会影响下一个隐藏状态，最终隐藏状态可以看作是序列的摘要。这种状态称为上下文或思想向量，因为它代表了序列的意图。

通过Seq2Seq的模型方案可以实现自动问答，输入是问题(question)，通过模型输出答案(answer)，而不依赖于先定义的问答集合。

一个示例如图1所示：

收到一封Email，其内容为：Are you free tomorrow？

编码器(图中所示ENCODER)以该Email的内容作为输入，进行向量转换后得到解码器(图中所示DECODER)的输出，即该问题的答案(Reply)：Yes,what’s up？

基于LSTM的问答系统的主要缺点在于：倾向于生成一些无意义的回答，也就没有包含任何信息，相较于人与人之间的交流是完全不同的，因此，会导致用户结束对话。此外，LSTM在很大程度上会限制模型的训练速度，因此，基于LSTM的问答系统在模型更新方面存在很大的阻碍。

发明内容

本申请提供了一种智能问答系统及方法，以提高回答信息的有效性，并加快模型训练速度。

本申请公开了一种智能问答系统，包括：话题模型模块和问答模型模块，其中：

所述话题模型模块，以问句信息为输入，输出对应于所述问句信息的话题信息；

所述问答模型模块，以所述问句信息及其对应的话题信息为输入，通过联合注意力机制对所述问句信息及其对应的话题信息进行处理，得到对应于所述问句信息的回答信息。

较佳的，所述话题模型模块具体用于：

根据所述问句信息为其分配主题，并在所述主题下选择概率最高的前N个词语作为所述问句信息的主题词，其中，N≥1。