[发明专利]文本生成方法、装置、设备以及存储介质有效
申请号: | 202010328590.6 | 申请日: | 2020-04-23 |
公开(公告)号: | CN111597779B | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 黄文璨;邱东洋 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/166 | 分类号: | G06F40/166;G06F16/33;G06F40/126 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 祝亚男 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 生成 方法 装置 设备 以及 存储 介质 | ||
1.一种文本生成方法,其特征在于,所述方法包括:
获取第一文本;
基于所述第一文本中的字符,获取所述第一文本的语义特征;
将随机生成的隐特征以及所述第一文本的语义特征进行拼接,得到所述第一文本对应的第一融合特征,所述隐特征用于对所述第一文本的语义进行调整;
基于所述第一融合特征和所述第一文本的语义特征,得到多个备选字符对应的概率,所述概率用于表示所述备选字符在生成文本时的出现概率;
基于所述概率符合目标概率条件的备选字符,生成多个第二文本,所述多个第二文本与所述第一文本的表述方式不同,所述多个第二文本的语义与所述第一文本的语义之间的相似度符合目标相似度条件。
2.根据权利要求1所述的方法,其特征在于,所述基于所述第一文本中的字符,获取所述第一文本的语义特征包括:
对所述第一文本中的字符进行嵌入编码,得到字符特征;
基于注意力权重和所述字符特征,获取所述第一文本的语义特征。
3.根据权利要求1所述的方法,其特征在于,所述基于所述第一文本中的字符,获取所述第一文本的语义特征包括:
对所述第一文本中的字符进行嵌入编码,得到字符特征;
为所述字符特征添加位置特征,基于注意力权重和添加位置特征后的字符特征,获取所述第一文本的语义特征,所述位置特征用于表示所述第一文本中的字符在所述第一文本中的位置。
4.根据权利要求1所述的方法,其特征在于,所述基于所述第一融合特征和所述第一文本的语义特征,得到多个备选字符对应的概率包括:
对所述第一融合特征和所述第一文本的语义特征进行归一化处理,得到所述多个备选字符对应的第一概率和第二概率,所述第一概率用于表示多个备选字符对应的初始概率,所述第二概率用于表示采用备选字符对所述第一文本中的原字符进行替换的概率;
基于所述第一概率和所述第二概率的乘积,得到多个备选字符对应的概率。
5.根据权利要求4所述的方法,其特征在于,所述对所述第一融合特征和所述第一文本的语义特征进行归一化处理,得到所述多个备选字符对应的第一概率和第二概率包括:
将所述第一文本的语义特征中对应于不同字符的语义特征进行加权求和,得到第二融合特征;
对所述第一融合特征和所述第二融合特征进行归一化处理,得到所述多个备选字符对应的第一概率和第二概率。
6.根据权利要求1所述的方法,其特征在于,通过文本生成模型获取所述第一文本的语义特征以及所述多个备选字符对应的概率,所述文本生成模型的训练方法包括:
确定样本文本和至少一个与所述样本文本之间相似度符合目标相似度条件的参考文本;
将所述样本文本中的字符和所述参考文本中的字符输入初始文本生成模型,通过所述初始文本生成模型生成至少一个预测文本;
基于所述至少一个预测文本与所述样本文本之间的差异信息,调整所述初始文本生成模型的模型参数;
将所述差异信息符合目标条件的模型作为所述文本生成模型。
7.根据权利要求6所述的方法,其特征在于,所述通过所述初始文本生成模型生成至少一个预测文本包括:
基于所述样本文本中的字符确定所述样本文本对应的样本语义特征;
基于所述参考文本中的字符确定所述参考文本对应的参考语义特征;
基于所述样本语义特征以及所述参考语义特征生成所述至少一个预测文本。
8.根据权利要求7所述的方法,其特征在于,所述基于所述样本语义特征以及所述参考语义特征生成所述至少一个预测文本包括:
基于所述样本语义特征以及所述参考语义特征,确定后验高斯分布的分布参数;
基于所述后验高斯分布的分布参数确定所述样本文本和所述参考文本对应的样本隐特征;
基于所述样本隐特征和所述参考语义特征生成所述至少一个预测文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010328590.6/1.html,转载请声明来源钻瓜专利网。