[发明专利]一种指代消解文本的生成方法、装置及电子设备

说明书

本说明书一个或多个实施例提供一种指代消解文本的生成方法、装置及电子设备；本说明书一个或多个实施例的方案，基于端到端的模式设计指代消解文本生成模型，该指代消解文本生成模型使用编码器‑解码器的结构，将输入的用户的历史对话文本和该用户的当前输入文本进行编码，并基于自注意力机制相应生成史对话文本和当前输入文本包括的各个词的自注意力特征，进一步结合编码器生成的自注意力特征以及解码器生成的自注意力特征，由解码器逐步输出输出词以最终得到对应于当前输入文本的指代消解文本。

技术领域

本说明书一个或多个实施例涉及自然语言处理技术领域，尤其涉及一种指代消解文本的生成方法、装置及电子设备。

背景技术

在自然语言处理技术领域，需要处理的文本中往往存在大量的指代项和零指代项。指代项是指文本中的指代词，用于代替上文中的另一个词。零指代项是指本文中被省略的指代词，被省略的指代词本应在本文中承担相应的语法成分，且用户通常能够根据句子本身推断出被省略的指代词。例如，对于一人机交互对话场景，用户：“请帮我查一下我的额度是多少”；机器人：“查询到您的额度是1000元”；用户：“怎么才能提升它”，或者是“怎么才能提升”。上述对话中，用户回复对应的完整语法表达应为“怎么才能提升额度”。用户回复中，“它”即为一个指代项，而当省略“它”时，则其为一个零指代项，其指代的对象为“额度”。

指代消解是一项被广泛应用的自然语言处理任务，其主要目的在于发现文本中包含的指代项和零指代项，并确定出指代项和零指代项实际指代的对象。因此，如何有效的实现指代消解，是目前自然语言处理技术领域亟需解决的一个问题。

发明内容

有鉴于此，本说明书一个或多个实施例的目的在于提出一种指代消解文本的生成方法、装置及电子设备。

基于上述目的，本说明书一个或多个实施例提供了一种指代消解文本的生成方法，包括：

获取用户的历史对话文本和所述用户的当前输入文本；

将所述历史对话文本和所述当前输入文本输入预先训练的指代消解文本生成模型，以使所述指代消解文本生成模型生成对应于所述当前输入文本的指代消解文本；所述指代消解文本包括由所述指代消解文本生成模型逐步输出的若干输出词；

其中，所述指代消解文本生成模型包括第一编码器、第二编码器和解码器；所述指代消解文本生成模型在每一步输出的输出词是根据所述第一编码器基于自注意力机制为所述历史对话文本中的各个词生成的第一自注意力特征、所述第二编码器基于自注意力机制为所述当前输入文本中的各个词生成的第二自注意力特征以及所述解码器基于自注意力机制在当前步生成的第三自注意力特征来确定的。

基于同一发明构思，本说明书一个或多个实施例还提供了一种指代消解文本的生成装置，包括：

获取模块，被配置为获取用户的历史对话文本和所述用户的当前输入文本；

指代消解模块，被配置为将所述历史对话文本和所述当前输入文本输入预先训练的指代消解文本生成模型，以使所述指代消解文本生成模型生成对应于所述当前输入文本的指代消解文本；所述指代消解文本包括由所述指代消解文本生成模型逐步输出的若干输出词；

其中，所述指代消解文本生成模型包括第一编码器、第二编码器和解码器；所述指代消解文本生成模型在每一步输出的输出词是根据所述第一编码器基于自注意力机制为所述历史对话文本中的各个词生成的第一自注意力特征、所述第二编码器基于自注意力机制为所述当前输入文本中的各个词生成的第二自注意力特征以及所述解码器基于自注意力机制在当前步生成的第三自注意力特征来确定的。

基于同一发明构思，本说明书一个或多个实施例还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上任意一项所述的指代消解文本的生成方法。