[发明专利]端到端检索式对话方法与系统及计算机设备

说明书

本发明涉及一种端到端检索式对话方法与系统及计算机设备。所述端到端检索式对话系统将当前对话流程的上下文信息进行连接得到查询长文本，使查询长文本与候选系统回复通过编码层、双向LSTM层、交叉注意力层、点积层、双卷积神经网络层以及全连接层，得到文本相似度评分，并选择相似度评分最高的候选系统回复作为最终的系统回复。本发明实施例的端到端检索式对话方法与系统及计算机设备，具有很强的文本语义理解能力，能够有效的利用对话过程中的上下文信息进行语义推理，大大的提高了系统回复选择的正确率，从而提升了通话效率。当其被应用于机器人催收场景中时，在增加客户体验的同时，可以提升催收回款率。

技术领域

本发明涉及人机交互技术领域，特别涉及一种端到端检索式对话方法与系统及计算机设备。

背景技术

近年来，随着人工智能技术的发展，特别是深度学习技术在自然语言处理问题上取得的巨大成功，对话系统越来越引起人们的注意，在智能催收、智能客服以及智能电核等领域得到了长足的发展。对话系统根据不同的任务类型大致可以分为两类：任务型对话系统和非任务型（闲聊型）对话系统。任务型对话系统指在特定条件下提供信息或服务的系统，通常情况下是为了满足带有明确目的的用户，例如咨询、查账、催收等任务型场景。

构建任务型对话系统主要有基于管道的方法和端到端的方法。基于管道的方法将对话流程视为一条管道，主要包括四个关键组件部分：自然语言理解（NLU）、对话状态跟踪（DST）、对话状态学习（DPL）和自然语言生成（NLG）。自然语言理解组件主要通过分词、词性标注、命名实体识别、句法分析、指代消解等自然语言处理技术对用户输入查询（query）进行处理客户意图识别，提取用户的对话意图以及预定义的语义槽，完成语义表示。主要利用CFR、RNN或者LSTM等方法进行客户意图识别和槽值填充；对话状态跟踪管理每个回合的输入和对话历史，输出当前对话状态；对话状态学习根据状态跟踪器的状态表示，对话策略学习是生成下一个可用的系统操作；自然语言生成将上一步的系统操作进行映射并生成回复。与基于管道的方法不同，端到端的方法只有一个模块，输入的是原始数据，输出是最后的结果。具体对话系统来说，就是学习对话历史到系统回复的映射问题。

对话系统根据回复文本生成策略的不同，又可以分为生成式方法和检索式方法。生成式方法基于序列到序列模型框架给出答案。检索式方法训练模型对给定的候选答案进行相似度评分并进行排序，选择评分最大的候选答案作为最终答案。

由于传统的基于管道的方法主要存在过程依赖问题，下一个组件的输入依赖于上一个组件的输出，系统缺乏整体连贯性，且管道式的对话缺乏领域迁移性。而生成式方法又容易出现语法错误，或者生成一些没有意义的回复，因此针对特定任务型场景，端到端的检索式方法成为研究的热点。但是，目前基于深度学习的端到端检索式方法基本都是根据用户的输入来与候选答案进行匹配，没有考虑到对话的上下文信息，导致系统回答的正确率低。

发明内容

基于此，有必要提供一种系统回复正确率高的端到端检索式对话方法与系统及计算机设备。

本发明实施例一方面提供一种端到端检索式对话方法，其包括如下步骤：

S1：将当前对话流程的上下文信息进行连接得到查询长文本；

S2：对查询长文本和候选系统回复进行编码，获得查询长文本词向量和候选系统回复词向量；

S3：将查询长文本词向量和候选系统回复词向量通过双向LSTM层，得到双向查询长文本词向量和双向候选系统回复词向量；

S4：使双向查询长文本词向量和双向候选系统回复词向量通过注意力机制，得到查询长文本对偶编码词向量和候选系统回复对偶编码词向量，并将查询长文本对偶编码词向量和候选系统回复对偶编码词向量分别与对应的查询长文本词向量和候选系统回复词向量进行拼接，得到查询长文本拼接词向量和候选系统回复拼接词向量；