[发明专利]故事生成模型训练方法、装置、设备及存储介质有效
申请号: | 202010209921.4 | 申请日: | 2020-03-23 |
公开(公告)号: | CN111414736B | 公开(公告)日: | 2022-05-20 |
发明(设计)人: | 王伟;李丕绩 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/166 | 分类号: | G06F40/166;G06F40/289;G06F16/35 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 祝亚男 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 故事 生成 模型 训练 方法 装置 设备 存储 介质 | ||
1.一种故事生成模型训练方法,其特征在于,所述方法包括:
获取第一样本提示文本、所述第一样本提示文本对应的第一故事文本和第一逻辑文本,所述第一逻辑文本用于指示所述第一故事文本的上下文逻辑关系;
基于故事生成模型,生成所述第一样本提示文本对应的第二故事文本;
基于逻辑生成模型的编码层,获取所述第二故事文本中相邻的至少两条语句中每条语句对应的向量,将获取的至少两个向量进行融合处理,得到特征向量;
基于所述逻辑生成模型的文本输出层,根据所述特征向量,确定所述至少两条语句对应的逻辑关键词,所述逻辑关键词用于指示所述至少两条语句的上下文逻辑关系;根据所述逻辑关键词生成所述第二故事文本对应的第二逻辑文本;
根据所述第一故事文本、所述第二故事文本、所述第一逻辑文本和所述第二逻辑文本,训练所述故事生成模型。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一故事文本、所述第二故事文本、所述第一逻辑文本和所述第二逻辑文本,训练所述故事生成模型,包括:
采用所述故事生成模型的损失函数,确定所述第一故事文本与所述第二故事文本之间的第一损失值,所述第一损失值与所述第一故事文本与所述第二故事文本之间的误差呈正相关关系;
采用所述逻辑生成模型的损失函数,确定所述第一逻辑文本与所述第二逻辑文本之间的第二损失值,所述第二损失值与所述第一逻辑文本与所述第二逻辑文本之间误差呈正相关关系;
根据所述第一损失值和所述第二损失值,调整所述故事生成模型的模型参数,以使所述故事生成模型的损失函数和所述逻辑生成模型的损失函数的输出值收敛。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一损失值和所述第二损失值,调整所述故事生成模型的模型参数,包括:
根据所述第二损失值的权重,对所述第二损失值进行加权处理,得到第三损失值,所述权重用于指示故事文本的上下文逻辑关系对所述故事文本的影响程度;
根据所述第一损失值和所述第三损失值,调整所述故事生成模型的模型参数。
4.根据权利要求1所述的方法,其特征在于,所述基于故事生成模型,生成所述第一样本提示文本对应的第二故事文本,包括:
将所述第一样本提示文本输入所述故事生成模型;
基于所述故事生成模型,根据所述第一样本提示文本,生成所述第一样本提示文本对应的至少一个词语;
基于所述故事生成模型,根据所述第一样本提示文本和已经生成的至少一个词语,继续生成至少一个词语,直至生成的词语的数量达到第一预设数量阈值,得到由生成的多个词语构成的第二故事文本。
5.根据权利要求4所述的方法,其特征在于,所述基于所述故事生成模型,根据所述第一样本提示文本和已经生成的至少一个词语,继续生成至少一个词语,包括:
基于所述故事生成模型,根据所述第一样本提示文本和所述已经生成的至少一个词语,确定所述至少一个词语中的每个词语的第一注意力权重;
基于所述故事生成模型,根据所述第一样本提示文本、所述至少一个词语和所述每个词语的第一注意力权重,继续生成至少一个词语。
6.根据权利要求4所述的方法,其特征在于,所述根据所述第一故事文本、所述第二故事文本、所述第一逻辑文本和所述第二逻辑文本,训练所述故事生成模型,包括:
若所述第二故事文本中包括代词,则获取所述第二故事文本中位于所述代词之前的每个词语的第一注意力权重和预设的第二注意力权重;
根据所述第一故事文本、所述第二故事文本、所述第一逻辑文本、所述第二逻辑文本、所述每个词语的第一注意力权重和所述每个词语预设的第二注意力权重,训练所述故事生成模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010209921.4/1.html,转载请声明来源钻瓜专利网。