[发明专利]可控文本生成方法及装置

权利要求书

1.一种可控文本生成方法，其特征在于，包括：

将初始文本以及初始控制信号输入至目标可控文本生成模型中，得到所述目标可控文本生成模型输出的可控文本；

所述目标可控文本生成模型通过如下方式训练得到：

对样本数据进行特征抽取，确定所述样本数据的控制信号；

基于所述样本数据以及所述样本数据的控制信号，对初始Transformer模型进行预训练，得到所述目标可控文本生成模型。

2.根据权利要求1所述的可控文本生成方法，其特征在于，所述对样本数据进行特征抽取，确定所述样本数据的控制信号，包括：

抽取所述样本数据的关键词特征、事件特征、知识图谱三元组特征、文本风格特征和句法结构特征；

基于抽取的特征中的至少一项，确定所述样本数据的控制信号。

3.根据权利要求2所述的可控文本生成方法，其特征在于，所述抽取所述样本数据的关键词特征，包括：

基于TF-IDF、TextRank和KeyBERT方法，分别抽取所述样本数据的关键词；

基于所述关键词，确定关键词候选集；

基于所述样本数据中的词的数量，从所述关键词候选集中抽取第一数量个关键词；

将所述第一数量个关键词作为所述样本数据的关键词特征。

4.根据权利要求2所述的可控文本生成方法，其特征在于，所述抽取所述样本数据的事件特征，包括：

对所述样本数据进行分句和语义标注，确定每个文本数据的语义结构；

将语义结构不完整的文本数据进行过滤；

基于所述样本数据中的句子的数量，从剩余语义结构中抽取第二数量个语义结构；

将所述第二数量个语义结构作为所述样本数据的事件特征。

5.根据权利要求2所述的可控文本生成方法，其特征在于，所述抽取所述样本数据的知识图谱三元组特征，包括：

对所述样本数据进行分词、命名实体识别和关系抽取处理，确定所述样本数据的知识图谱三元组；

基于所述样本数据中的句子的数量，从所述知识图谱三元组中抽取第三数量个知识图谱三元组；

将所述第三数量个知识图谱三元组作为所述样本数据的知识图谱三元组特征。

6.根据权利要求2所述的可控文本生成方法，其特征在于，所述抽取所述样本数据的句法结构特征，包括：

基于句法分析工具对所述样本数据的第一句话进行句法分析，确定所述样本数据的句法树；

基于所述样本数据的句法树，确定所述样本数据的句法结构特征。

7.根据权利要求1所述的可控文本生成方法，其特征在于，所述基于所述样本数据以及所述样本数据的控制信号，对初始Transformer模型进行预训练，得到所述目标可控文本生成模型，包括：

将所述样本数据与所述样本数据的控制信号进行拼接；

在初始Transformer模型中设置控制信号部分的位置编码，使控制信号与待生成文本之间的距离为目标值；

基于拼接后的数据对设置后的模型进行预训练，得到所述目标可控文本生成模型。

8.一种可控文本生成装置，其特征在于，包括：

生成模块，用于将初始文本以及初始控制信号输入至目标可控文本生成模型中，得到所述目标可控文本生成模型输出的可控文本；

所述目标可控文本生成模型通过如下方式训练得到：

对样本数据进行特征抽取，确定所述样本数据的控制信号；

基于所述样本数据以及所述样本数据的控制信号，对初始Transformer模型进行预训练，得到所述目标可控文本生成模型。

9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述可控文本生成方法。

10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述可控文本生成方法。