[发明专利]文本摘要提取方法、装置、电子设备及存储介质

说明书

本发明涉及自然语言处理技术，揭露一种文本摘要提取方法，包括：在Bert模型中添加奇偶句编码层得到编码器，从transformer模型中提取解码器，组合所述编码器和所述解码器得到待训练文本摘要提取模型，对训练文本集执行分句操作得到训练语段集，接收用户在所述训练语段集中添加的特征提取标识符，利用所述训练语段集及所述特征提取标识符训练所述待训练文本摘要提取模型，得到文本摘要提取模型，接收摘要待提取文本，将所述摘要待提取文本输入至所述文本摘要提取模型得到文本摘要。本发明还揭露文本摘要提取装置、电子设备以及存储介质。本发明可解决文本摘要提取过程中，缺少对文本奇偶句划分及重要语段识别的能力，进而影响文本摘要提取准确率的问题。

技术领域

本发明涉及自然语言处理领域，尤其涉及一种文本摘要提取方法、装置、电子设备及计算机可读存储介质。

背景技术

伴随人工智能的快速发展，目前涌现多种文本摘要提取方法，其中传统机器学习缺乏对海量文本数据特征提取的能力，已逐渐被深度学习方法替代去执行文本摘要提取。

目前常用transformer模型实现对文本摘要提取，但transformer模型由于缺少对文本奇偶句划分后的特征提取及文本中重要语段识别的能力，进而导致文本摘要提取的准确率有进一步提高的空间。

发明内容

本发明提供一种文本摘要提取方法、装置、电子设备及计算机可读存储介质，其主要目的在于解决在文本摘要提取过程中，缺少对文本奇偶句划分后的特征提取及文本重要语段识别的能力，进而影响文本摘要提取准确率的问题。

为实现上述目的，本发明提供的一种文本摘要提取方法，包括：

在预构建的Bert模型中添加奇偶句编码层，得到编码器；

从预接收的transformer模型中提取解码器，组合所述编码器和所述解码器，得到待训练文本摘要提取模型；

接收训练文本集，对所述训练文本集执行分句操作，得到训练语段集；

接收用户在所述训练语段集中添加的特征提取标识符；

利用所述训练语段集及所述特征提取标识符，训练所述待训练文本摘要提取模型，得到文本摘要提取模型；

接收摘要待提取文本，将所述摘要待提取文本输入至所述文本摘要提取模型，得到文本摘要。

可选地，所述利用所述训练语段集及所述特征提取标识符，训练所述待训练文本摘要提取模型，得到文本摘要提取模型，包括：

步骤A：利用所述特征提取标识符，将所述训练语段集分为待遮蔽训练语段集及非遮蔽训练语段集，将所述待遮蔽训练语段集执行遮蔽操作，得到遮蔽训练语段集；

步骤B：接收用户设定的编码器学习率、解码器学习率及训练周期，将所述遮蔽训练语段集及所述非遮蔽训练语段集输入至所述待训练文本摘要提取模型中；

步骤C：利用所述编码器及所述编码器学习率，对所述遮蔽训练语段集及所述非遮蔽训练语段集执行特征提取，得到语段特征集；

步骤D：利用所述解码器及所述解码器学习率，预测所述语段特征集对应的文本摘要集；

步骤E：利用所述文本摘要集及预构建的优化算法，优化所述待训练文本摘要提取模型的内部参数，并记录优化次数；

步骤F：判断所述优化次数与所述训练周期的大小关系，若所述优化次数小于或等于所述训练周期，返回步骤C；

步骤G：若所述优化次数大于所述训练周期，得到所述文本摘要提取模型。

可选地，所述在预构建的Bert模型中添加奇偶句编码层，得到编码器，包括：