[发明专利]文本摘要的生成方法、装置、电子设备及存储介质

说明书

本发明实施例公开了一种文本摘要的生成方法、装置、电子设备及存储介质。该方法包括：在获取到目标文本时，基于预先训练出的摘要抽取模型的编码模块确定目标文本的文本语义向量，通过解码模块基于文本语义向量和前一时刻的注意力向量确定当前时刻的摘要词向量，其中，各时刻的注意力向量基于对应时刻的注意力差距向量生成，注意力差距向量用于描述对应时刻的注意力与之前对信息的注意力之间的差距。本发明实施例通过在模型中引入注意力差距向量来确定摘要词向量，实现了对当前时刻的不重要信息的过滤，以及对当前时刻的重要信息的关注力度的加强，从而提高了目标文本的摘要信息的准确性，进一步的，提高了总结归纳信息的准确性。

技术领域

本发明实施例涉及计算机技术领域，尤其涉及一种文本摘要的生成方法、装置、电子设备及存储介质。

背景技术

文本摘要算法是一个自然语言处理的方向，该技术用于将大数据信息进行总结和归纳，用于过滤掉无用信息，提取有价值的信息，进行展示或者分析，使得后续的知识推理、情感分析、数据分析等都可以基于大数据信息进行实现。

目前比较实用的理解式的摘要抽取的方式是seq2seq模型。这类方法的大体思路是将原文本通过编码(encoder)网络编码成固定大小的向量表示，然后通过解码(decoder)网络将文本的编译信息转换为所需要的文本摘要。

在实现本发明的过程中，发现现有技术中至少存在以下问题：

目前这类算法仍然存在“信息重复”和“重点信息关注不到”等缺点，使得总结获取的信息并不能很好地运用在实际情况中。主要原因是因为该模型的注意力机制在设计上具有一定的局限性，因此导致了信息上的不准确情况产生。

发明内容

本发明实施例提供了一种文本摘要的生成方法、装置、电子设备及存储介质，以解决现有技术中关注信息重复或遗漏的问题，从而实现提高摘要信息准确度的技术效果。

第一方面，本发明实施例提供了一种文本摘要的生成方法，包括：

获取目标文本；

基于所述目标文本和预先训练出的摘要抽取模型，生成所述目标文本对应的文本摘要；

其中，所述摘要抽取模型包括编码模块和解码模块；所述编码模块用于基于所述目标文本中所包含词语的词向量输出文本语义向量；所述解码模块用于基于所述编码模块输出的文本语义向量和前一时刻的注意力向量，输出当前时刻的摘要词向量；其中各时刻的注意力向量是基于对应时刻的注意力差距向量生成的，所述注意力差距向量用于描述对应时刻的注意力与之前对信息的注意力之间的差距。

第二方面，本发明实施例还提供了一种文本摘要的生成装置，包括：

文本获取模块，用于获取目标文本；

摘要抽取模块，用于基于所述目标文本和预先训练出的摘要抽取模型，生成所述目标文本对应的文本摘要；

其中，所述摘要抽取模型包括编码模块和解码模块；所述编码模块用于基于所述目标文本中所包含词语的词向量输出文本语义向量；所述解码模块用于基于所述编码模块输出的文本语义向量和前一时刻的注意力向量，输出当前时刻的摘要词向量；其中各时刻的注意力向量是基于对应时刻的注意力差距向量生成的，所述注意力差距向量用于描述对应时刻的注意力与之前对信息的注意力之间的差距。

第三方面，本发明实施例还提供了一种电子设备，所述电子设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任意实施例提供的文本摘要的生成方法。