[发明专利]用于对话内的多角度论述的系统

说明书

描述了用于训练和/或利用子代理机器学习模型来生成候选对话响应的技术。在各种实现中，面向用户的对话代理(202，302)或代表其的另一组件选择最接近用户定义的全局优先级目标(318)的候选响应之一。全局优先级目标可以包括针对各种对话特征的值(306)，对话特征诸如情绪、困惑、客观相关性、个性、详细度等。在各种实现中，每个机器学习模型包括编码器部分和解码器部分。每个编码器部分和解码器部分可以是循环神经网络(RNN)模型，诸如包括至少一个记忆层(诸如长短期记忆(LSTM)层)的RNN模型。

背景技术

计算系统可以利用对话代理以连贯结构与用户交谈。用户界面输入可以以文本、语音、图形、触觉、手势的形式和/或其他交流模式被提供给对话代理。类似地，对话代理可以制定对用户界面输入的响应，并且可以基于响应使用文本、语音、图形、触觉、手势和/或其他交流模式来传送输出。例如，对话代理可以解释和响应用户以自然语言做出的陈述。

发明内容

本文中描述的技术使得自适应的面向用户的对话代理能够生成对用户提供的输入的多个候选响应，并且使用预定全局对话目标从这些候选响应中选择用于呈现给用户的响应。在很多实现中，对话代理可以基于对话特征将对话与用户提供的输入对准，对话特征包括：情绪(emotion)、客观相关性(objective relatedness)、困惑、个性(personality)、详细度(verbosity)和/或附加对话特征。用户可以设置对话代理将引导对话朝向的、与每个对话特征相对应的期望值(例如，用户可以设置针对对话的全局优先级目标的值)。例如，希望与对话代理进行更自然的类人对话的用户可以设置全局优先级值以使得个性具有高值。作为另一示例，希望详细讨论和详细回答的用户可以设置全局优先级目标的值以使得详细度具有高值。另外地或替代地，当设置全局优先级目标的值时，用户可以针对多个对话特征提供值。例如，希望简短且易于理解的响应的用户可以设置全局优先级目标以使得详细度具有低值。在很多实现中，对话代理可以具有跨所有用户的统一全局优先级目标值(例如，该系统管理员和/或具有全局权限的附加用户为参与和对话代理的对话的所有用户设置全局优先级目标的值)。

在很多实现中，面向用户的对话代理可以包括若干子代理或与若干子代理可操作地耦合，每个子代理通过使用与每个子代理相对应的独特的机器学习模型处理用户提供输入来生成候选响应(即，每个子代理与自己的独特的机器学习模型相关联)。除非另有说明，否则本文中使用的“对话代理”是指面向用户的对话代理。在各种实现中，每个子代理(以及每个对应子代理机器学习模型)被训练以生成被定制为针对对话特征之一的响应(并且在某些情况下，每个子代理及其对应机器学习模型被定制为针对独特的对话特征)。

根据很多实现的子代理机器学习模型可以包括编码器部分和解码器部分。子代理机器学习模型的编码器部分可以是循环神经网络(RNN)，并且可以包括一个或多个循环层，包括单向循环网络层和/或双向循环网络层的组合。另外地或替代地，子代理机器学习模型的解码器部分可以是RNN，并且可以包括一个或多个循环层，包括单向循环网络层和/或双向循环网络层的组合。循环网络层每个可以包括一个或多个记忆单元，输入可以被顺序应用于这些记忆单元，并且在所应用的输入的每次迭代中，(多个)记忆单元可以用于基于该迭代的输入并且基于当前隐藏状态(可以基于(多个)先前迭代的(多个)输入)来计算新隐藏状态。在一些实现中，记忆单元可以是长短期记忆(LSTM)单元。在一些实现中，可以使用(多个)附加或替代记忆单元，诸如门控循环单元(GRU)。另外地或替代地，子代理机器学习模型可以包括附加网络层，诸如用于执行池化的网络层(例如，随时间池化层)、前馈网络层和/或(多个)附加网络层。

在生成候选响应之后，面向用户的对话代理可以从候选响应中选择响应以呈现给用户。在很多实现中，特征监测器过程可以针对每个候选响应确定针对每个对话特征的值。可以计算针对每个候选响应的针对特征的值与全局优先级目标的值之间的距离。另外地或替代地，该系统可以选择针对每个候选响应的针对对话特征的值与全局优先级目标的值之间的距离最短的响应。