[发明专利]文章标题生成方法、装置、存储介质及电子设备

权利要求书

1.一种文章标题生成方法，其特征在于，包括以下步骤：

根据文本摘要算法从目标文章中提取目标摘要；

基于预训练的标题生成模型和所述目标摘要，生成第一候选文章标题；

基于所述标题生成模型和所述目标文章，生成第二候选文章标题；

计算所述第一候选文章标题和所述第二候选文章标题的标题匹配度，根据所述标题匹配度从所述第一候选文章标题中确定目标文章标题；

所述标题生成模型的训练方法包括以下步骤：

获取训练用的原始文本集，所述原始文本集包括原始文章和原始标题；

对所述原始文本集进行预处理，得到格式规范的输入数据，所述预处理为将所述原始文本集的格式统一化处理；

将预处理后的输入数据向改良后的GPT-2模型输入并进行训练，所述改良后的GPT-2模型为在GPT-2模型的下游增加FC层，将GPT-2模型最后一层输出放大到词典的大小，然后根据模型的FC层的输出基于MASK机制的原理输出每个预测的token值，根据所述预测的token值和原始token值计算所述改良后的GPT-2模型的损失值，根据所述损失值不断优化所述改良后的GPT-2模型，得到预训练的标题生成模型。

2.根据权利要求1所述的文章标题生成方法，其特征在于，计算所述第一候选文章标题和所述第二候选文章标题的标题匹配度，根据所述标题匹配度从所述第一候选文章标题中确定目标文章标题的步骤包括：

计算所述第一候选文章标题和所述第二候选文章标题的标题匹配度，将与所述第二候选文章标题匹配度最高的所述第一候选文章标题作为目标文章标题。

3.根据权利要求1所述的文章标题生成方法，其特征在于，计算所述第一候选文章标题和所述第二候选文章标题的标题匹配度，根据所述标题匹配度从所述第一候选文章标题中确定目标文章标题的步骤包括：

计算所述第一候选文章标题和所述第二候选文章标题的标题匹配度，以及计算所述第一候选文章标题的标题通顺度；

根据所述标题匹配度和所述标题通顺度确定所述第一候选文章标题的目标文章标题。

4.根据权利要求1所述的文章标题生成方法，其特征在于，所述根据文本摘要算法从目标文章中提取目标摘要的步骤包括：

计算目标文章的总字符长度和句子数量，根据所述目标文章的总字符长度和所述句子数量计算摘要长度；

使用TextRank算法计算所述目标文章中每句话占整篇所述目标文章的权重，按照权重顺序降序排序，根据所述权重顺序和所述摘要长度选取目标句子，再根据所述目标句子在所述目标文章中的顺序拼接成目标摘要。

5.根据权利要求1所述的文章标题生成方法，其特征在于，所述基于所述标题生成模型和所述目标文章，生成第二候选文章标题的步骤为：

向预训练的标题生成模型中导入目标文章，得到预测标题列表；

对所述预测标题列表中的各个预测标题通过Kenlm计算困惑度，将各个所述预测标题的困惑度升序排序，将所述预测标题困惑度小于预设困惑度的所述预测标题作为第二候选文章标题。