[发明专利]文本处理装置、方法、设备以及计算机可读存储介质

说明书

本申请涉及一种文本处理装置、方法、设备以及计算机可读存储介质。所述文本处理装置包括：编码单元，配置成对所述源文本进行编码以得到源文本编码隐藏状态；解码单元，配置成对所述源文本编码隐藏状态进行解码以确定源文本解码隐藏状态；输出单元，配置成根据所述源文本编码隐藏状态和所述源文本解码隐藏状态确定每个时间步的输出词语，以确定候选文本；以及后处理单元，配置成根据外部信息对所述候选文本进行后处理，以确定包含外部信息的输出文本。

技术领域

本公开涉及文本处理领域，并且具体涉及一种文本处理装置、方法、设备以及计算机可读存储介质。

背景技术

在现有的文本处理，例如文本转换、文本生成等过程中，可以通过对输入的源文本进行处理以得到最终的文本处理结果。

在一些情况下，为了得到更理想的结果，用户可以为文本处理过程指定一些外部信息，这样的外部信息可以是用户指定的文本中的重要的信息，也可以是与源文本相关联的其他文本的信息。为了使得这样的外部信息更可能出现在文本处理结果中，需要一种在文本处理过程中充分考虑外部信息的文本处理方法。

发明内容

为了在文本处理过程中充分考虑外部信息，本公开提供了一种文本处理方法、装置、设备以及计算机可读存储介质。

根据本公开的一个方面，提供了一种文本处理装置，包括：编码单元，配置成对所述源文本进行编码以得到源文本编码隐藏状态；解码单元，配置成确定解码隐藏状态；输出单元，配置成根据所述源文本编码隐藏状态和所述解码隐藏状态确定每个时间步的输出词语，以确定候选文本；以及后处理单元，配置成根据外部信息对所述候选文本进行后处理，以确定包含外部信息的输出文本。

在一些实施例中，所述外部信息是包含预定义的信息的句子，所述后处理单元配置成：确定所述候选文本中的句子和所述外部信息的相似度；所述相似度大于预设的候选相似度阈值时，将所述候选文本中的所述句子替换为所述外部信息。

在一些实施例中，将所述候选文本中的所述句子替换为所述外部信息包括：删除所述候选文本中的所述句子；根据所述外部信息和所述候选文本中的剩余信息在所述源文本中的相关性，在所述剩余信息中插入外部信息。

在一些实施例中，当所述相似度小于预设的候选相似度阈值时，根据所述外部信息和所述候选文本中的句子在所述源文本中的相关性，在所述候选文本中插入外部信息。

在一些实施例中，所述文本处理装置还包括：注意力生成单元，配置成根据外部信息、所述源文本编码隐藏状态和所述解码隐藏状态确定当前时间步的注意力分布；所述输出单元配置成根据所述注意力分布、所述源文本编码隐藏状态、所述解码隐藏状态确定输出词语概率分布，以确定输出词语。

在一些实施例中，所述输出单元配置成根据外部信息、所述源文本编码隐藏状态、所述解码隐藏状态确定每个时间步输出词语概率分布，以确定所述候选文本。

在一些实施例中，所述输出单元配置成：根据所述外部信息，将所述候选输出词语中概率大于等于输出概率阈值并且属于所述外部信息的词语确定为当前时间步的候选输出词语。

根据本公开的另一方面，还提供了一种文本处理方法，包括：对所述源文本进行编码以得到源文本编码隐藏状态；确定解码隐藏状态；根据所述源文本编码隐藏状态和所述解码隐藏状态确定每个时间步的输出词语，以确定候选文本；以及根据外部信息对所述候选文本进行后处理，以确定包含外部信息的输出文本。

在一些实施例中，所述外部信息是包含预定义的信息的句子，所述后处理包括：确定所述候选文本中的句子和所述外部信息的相似度；所述相似度大于预设的候选相似度阈值时，将所述候选文本中的所述句子替换为所述外部信息。

在一些实施例中，将所述候选文本中的所述句子替换为所述外部信息包括：删除所述候选文本中的所述句子；根据所述外部信息和所述候选文本中的剩余信息在所述源文本中的相关性，在所述剩余信息中插入外部信息。