[发明专利]一种基于注意力机制的电力客服交互式问答方法及装置

权利要求书

1.一种基于注意力机制的电力客服交互式问答方法，其特征在于：包括以下步骤：

步骤S1：问题预处理：由客户发起线上会话并提出问题，对问题进行预处理；

步骤S2：问句语义表示：在问题预处理基础上，利用循环神经网络的上下文表示学习模型进行端到端的在线用户问句解析；

步骤S3：交互式句子关系表示：在问句语义表示的基础上，结合基于注意力机制构建语句关系表示模型；

步骤S4： 问句核心结构提取：在基于问句语义表示和语句关系的学习表示的基础上，结合多层卷积神经网络模型，进行问句核心结构提取；

步骤S5：答案抽取并反馈：依据问句核心结构提取结果，从电网客服知识库中匹配相应的答案，并反馈给客户。

2.根据权利要求1所述一种基于注意力机制的电力客服交互式问答方法，其特征在于：所述步骤S1中，采用LTP自然语义处理工具进行预处理，具体包括：先在LTP自然语义处理工具中导入电网客服问答知识库中的实体库，然后对客户问题进行分词、词性标注、实体识别、依存句法分析的预处理。

3.根据权利要求1所述一种基于注意力机制的电力客服交互式问答方法，其特征在于：所述步骤S2中，循环神经网络的上下文表示学习模型基于无监督编码--解码学习架构进行问句上下文的自动编码和自动解码，完成问句语义学习表示模型的无监督学习，并通过SoftMax分类器引导模型在问句语义解析上的有监督学习，实现基于上下文的问句解析及表示。

4.根据权利要求1所述一种基于注意力机制的电力客服交互式问答方法，其特征在于：所述步骤S3中，所述语句关系表示模型首先通过构建多层的循环神经网络实现上下文依赖的语句关系建模，在基于LSTM的语句关系建模基础上，模型通过基于匹配模式的注意力学习机制实现关系匹配模式与句子语义表示的特征对齐，最后通过Softmax分类器完成交互式问答的语句关系表示。

5.根据权利要求1所述一种基于注意力机制的电力客服交互式问答方法，其特征在于：所述步骤S5还包括，将答案反馈给客户之后，判断客户是否满意，若客户不满意，提醒客户补充问句的具体内容，返回步骤S2，重新对问句进行分析，自动抽取更合适的答案给客户；或者若客户不满意，客户转人工服进行服务。

6.一种基于注意力机制的电力客服交互式问答装置，其特征在于：包括：

问题预处理模块，用于由客户发起线上会话并提出问题，对问题进行预处理；

问句语义表示模块，用于在问题预处理基础上，利用循环神经网络的上下文表示学习模型进行端到端的在线用户问句解析；

交互式句子关系表示模块，用于在问句语义表示的基础上，结合基于注意力机制构建语句关系表示模型；

问句核心结构提取模块，用于在基于问句语义表示和语句关系的学习表示的基础上，结合多层卷积神经网络模型，进行问句核心结构提取；

答案抽取反馈模块，用于依据问句核心结构提取结果，从电网客服知识库中匹配相应的答案，并反馈给客户。

7.根据权利要求6所述一种基于注意力机制的电力客服交互式问答装置，其特征在于：所述问题预处理模块中，采用LTP自然语义处理工具进行预处理，具体包括：先在LTP自然语义处理工具中导入电网客服问答知识库中的实体库，然后对客户问题进行分词、词性标注、实体识别、依存句法分析的预处理。

8.根据权利要求6所述一种基于注意力机制的电力客服交互式问答装置，其特征在于：所述问句语义表示模块中，循环神经网络的上下文表示学习模型基于无监督编码--解码学习架构进行问句上下文的自动编码和自动解码，完成问句语义学习表示模型的无监督学习，并通过SoftMax分类器引导模型在问句语义解析上的有监督学习，实现基于上下文的问句解析及表示。