[发明专利]一种基于语义匹配的多轮对话口语理解方法

说明书

本发明公开了一种基于语义匹配的多轮对话口语理解方法。本发明利用基于词级别的attention卷积神经网络和树状循环神经网络联合提取语句语义信息，并通过语义匹配对历史语句进行合理的权重值分配，结合上述产生的历史语句语义表示和对应的权重值，输入对应角色双向LSTM模型得到角色历史影响向量，结合2个角色历史影响向量得到最终历史语义影响向量，结合该向量对当前语句做意图检测，并通过损失函数优化模型参数结构。这种方法具有更好的鲁棒性和自适应能力。其中具体发明的基于语义匹配的多轮对话口语理解模型训练流程图如图2。

技术领域

本发明涉及口语理解领域，具体涉及一种基于语义匹配的多轮对话口语理解方法，属于自然语言处理中的人机对话领域。

背景技术

随着人工智能的日益发展以及人机交互技术的进步，越来越丰富的人机交互模式开始出现，其中，任务型人机对话系统是人机对话中的一个重要应用。任务型人机对话系统通过与用户进行多轮基于自然语言的对话来逐步收集与目标相关的信息，从而辅助用户成功获得某种服务。任务型对话作为人工智能的典型应用，已成为一种重要的人机交互核心技术。而口语理解(SLU)是面向任务的对话系统中非常重要的一部分，它将用户的话语解析为语义框架表示。在口语理解的正确基础上，才能进一步进行对话的状态追踪，对话决策和管理，对话生成等一系列操作。在单轮对话中，用户输入的语义信息较为完整，易于提取，而在多轮对话中，用户输入的语句具有短小，语义信息不充分等特点，因此历史对话信息对当前语句的解析有很大的影响。然而，以往的做法主要基于时间距离维度来判断历史语句中每一句语句的影响程度，对历史语句的权重概率值分配可能会出现错误。所以本发明基于历史语句与当前语句的语义匹配程度，对历史语句分配权重值，再结合角色双向LSTM，能够有效提取历史语义影响向量。结合该向量对当前语句做意图检测，能够有效提升意图检测的准确率。

发明内容

本发明的目的是针对现有技术的不足，提供一种基于语义匹配的多轮对话口语理解方法，以解决在多轮对话中，历史信息提取不充分，不能有效对历史语句进行权重分配，不能有效判断历史语句与当前语句关系的问题。

本发明解决其技术问题所采用的技术方案包括以下步骤：

步骤(1)获取对话数据集并进行预处理，即针对对话数据集中的每个语句正确标注语句意图和对应历史语句；

步骤(2)建立基于语义匹配的多轮对话口语理解架构，确定网络组成部分以及层数和维度，得到口语理解模型；

步骤(3)将步骤(1)预处理后的语句分别输入基于词级别attention的卷积神经网络模型和树状LSTM模型，分别提取语句局部特征和语句语义特征；

步骤(4)将得到的语句局部特征和语句语义特征进行拼接，得到最终单句语句语义表示；

步骤(5)将历史语句语义表示和当前语句语义表示进行两两拼接，输入多层感知机网络模型，基于语义匹配度对历史语句分配权重值；

步骤(6)将历史语句语义表示结合权重值输入对应角色双向LSTM模型，得到角色历史语义影响向量；

步骤(7)拼接2个角色历史语义影响向量得到最终历史语义影响向量；

步骤(8)结合最终历史语义影响向量与当前语句语义表示，输入双向LSTM模型进行意图检测；

步骤(9)将预测的意图与语句对应的真实意图进行对比，计算损失函数，迭代更新网络模型中的参数；

步骤(10)将需测试的语句与对应的历史语句输入训练好的语义匹配网络模型，正确提取历史语义影响向量，结合历史语义影响向量对该语句做意图检测；输出语句对应的意图。

本发明所具有的优点如下：