[发明专利]故事生成模型训练方法、装置、设备及存储介质有效
申请号: | 202010209925.2 | 申请日: | 2020-03-23 |
公开(公告)号: | CN111414737B | 公开(公告)日: | 2022-03-08 |
发明(设计)人: | 王伟;李丕绩 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/166 | 分类号: | G06F40/166;G06F40/289;G06F16/35 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 祝亚男 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 故事 生成 模型 训练 方法 装置 设备 存储 介质 | ||
本申请实施例公开了一种故事生成模型训练方法、装置、设备及存储介质,属于自然语言处理领域。方法包括:获取第一样本提示文本和第一样本提示文本对应的第一故事文本;基于故事生成模型,根据第一样本提示文本、已经生成的至少一个词语及至少一个词语中的每个词语的第一注意力权重,继续生成至少一个词语,得到包含多个词语的第二故事文本,第一注意力权重由故事生成模型确定;若第二故事文本中包括代词,则获取第二故事文本中位于代词之前的每个词语的第一注意力权重和预设的第二注意力权重;根据第一故事文本、第二故事文本、每个词语的第一注意力权重和每个词语预设的第二注意力权重,训练故事生成模型,提高了模型的准确度。
技术领域
本申请涉及自然语言处理领域,特别涉及一种故事生成模型训练方法、装置、设备及存储介质。
背景技术
随着人工智能技术和自然语言处理技术的发展,目前提出了一种故事文本生成方法,该方法通过获取用户输入的提示文本,基于故事生成模型,来生成该提示文本对应的故事文本,从而实现了智能编写故事的功能。但是采用上述故事生成模型生成的故事,存在代词指代错误的问题,因此,如何提高故事生成模型的准确性,成为当前亟需解决的问题。
发明内容
本申请实施例提供了一种故事生成模型训练、装置、设备及存储介质,可以提高故事生成模型的准确性,提高故事文本中代词的准确率。所述技术方案如下:
一方面,提供了一种故事生成模型训练方法,所述方法包括:
获取第一样本提示文本和所述第一样本提示文本对应的第一故事文本;
基于故事生成模型,根据所述第一样本提示文本、已经生成的至少一个词语及所述至少一个词语中的每个词语的第一注意力权重,继续生成至少一个词语,得到包含多个词语的第二故事文本,所述第一注意力权重由所述故事生成模型确定;
若所述第二故事文本中包括代词,则获取所述第二故事文本中位于所述代词之前的每个词语的第一注意力权重和预设的第二注意力权重;
根据所述第一故事文本、所述第二故事文本、所述每个词语的第一注意力权重和所述每个词语预设的第二注意力权重,训练所述故事生成模型。
另一方面,提供了一种故事文本生成方法,所述方法包括:
基于故事生成模型,生成任一提示文本对应的故事文本,所述故事生成模型采用如所述的故事生成模型训练方法训练得到。
另一方面,提供了一种故事生成模型训练装置,所述装置包括:
文本获取模块,用于获取第一样本提示文本和所述第一样本提示文本对应的第一故事文本;
故事生成模块,用于基于故事生成模型,根据所述第一样本提示文本、已经生成的至少一个词语及所述至少一个词语中的每个词语的第一注意力权重,继续生成至少一个词语,得到包含多个词语的第二故事文本,所述第一注意力权重由所述故事生成模型确定;
权重获取模块,用于若所述第二故事文本中包括代词,则获取所述第二故事文本中位于所述代词之前的每个词语的第一注意力权重和预设的第二注意力权重;
训练模块,用于根据所述第一故事文本、所述第二故事文本、所述每个词语的第一注意力权重和所述每个词语预设的第二注意力权重,训练所述故事生成模型。
可选地,所述故事生成模块,包括:
确定单元,用于基于所述故事生成模型,根据所述第一样本提示文本和所述已经生成的至少一个词语,确定所述至少一个词语中的每个词语的第一注意力权重;
生成单元,用于基于所述故事生成模型,根据所述第一样本提示文本、所述至少一个词语和所述每个词语的第一注意力权重,继续生成至少一个词语,得到包含多个词语的第二故事文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010209925.2/2.html,转载请声明来源钻瓜专利网。