[发明专利]基于质量感知的文本生成方法、设备、存储介质及装置有效
申请号: | 201911040951.0 | 申请日: | 2019-10-29 |
公开(公告)号: | CN111061867B | 公开(公告)日: | 2022-10-25 |
发明(设计)人: | 邓黎明;庄伯金;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G10L15/26 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 徐进之 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 质量 感知 文本 生成 方法 设备 存储 介质 装置 | ||
1.一种基于质量感知的文本生成方法,其特征在于,所述基于质量感知的文本生成方法包括以下步骤:
获取待处理语料集,将所述待处理语料集进行多线程处理,通过序列到序列模型生成文本草稿;
根据所述文本草稿通过训练好的质量感知遮挡语言模型,对所述文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置;
通过所述训练好的质量感知遮挡语言模型,根据所述目标位置的上下文语境信息对所述目标位置的语义进行预测,获得所述目标位置对应的目标字;
通过所述训练好的质量感知遮挡语言模型,将所述目标字替换所述待替换字,获得第一次迭代文本,将所述第一次迭代文本作为新的文本草稿,返回所述根据所述文本草稿通过训练好的质量感知遮挡语言模型,对所述新的文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置的步骤,直至所述文本草稿中所有所述待替换字均被替换,迭代终止,获得迭代更新后的目标文本。
2.如权利要求1所述的基于质量感知的文本生成方法,其特征在于,所述根据所述文本草稿通过训练好的质量感知遮挡语言模型,对所述文本草稿中待替换字的位置进行预测,获得所述待替换字的目标位置之前,所述基于质量感知的文本生成方法还包括:
获取标准文本,对所述标准文本中的字进行随机替换,获得替换文本;
建立待训练质量感知遮挡语言模型;
根据所述标准文本和所述替换文本对所述待训练质量感知遮挡语言模型进行训练,获得训练好的质量感知遮挡语言模型。
3.如权利要求2所述的基于质量感知的文本生成方法,其特征在于,所述替换文本包括:第一预设比例的第一替换文本、第二预设比例的第二替换文本和第三预设比例的标准文本;
所述获取标准文本,对所述标准文本中的字进行随机替换,获得替换文本,包括:
通过随机标记,选取所述标准文本中每句话中的任意一个字随机替换为另外一个字获得第一替换文本,并记录被替换的字的位置标签,所述第一预设比例为所述第一替换文本占所有替换文本的比例;
通过随机标记,选取所述标准文本中每句话中的任意两个字随机替换为另外两个字获得第二替换文本,并记录被替换的字的位置标签,所述第二预设比例为所述第二替换文本占所有替换文本的比例;
保持所述标准文本不变,将所述标准文本作为替换文本,并将位置标签记录为第一预设值,所述第三预设比例为所述标准文本占所有替换文本的比例。
4.如权利要求3所述的基于质量感知的文本生成方法,其特征在于,所述根据所述标准文本和所述替换文本对所述待训练质量感知遮挡语言模型进行训练,获得训练好的质量感知遮挡语言模型,包括:
根据所述第一替换文本或所述第二替换文本通过所述待训练质量感知遮挡语言模型,对所述第一替换文本或所述第二替换文本中待更新字的位置进行预测,获得待更新字的预测位置;
通过所述待训练质量感知遮挡语言模型对所述预测位置的字的语义进行预测,获得所述预测位置对应的预测字;
通过所述待训练质量感知遮挡语言模型,将所述预测字替换所述待更新字,获得第一次预测文本,实现一次迭代,将所述第一次预测文本作为新的替换文本,返回所述根据所述第一替换文本或所述第二替换文本通过所述待训练质量感知遮挡语言模型,对所述第一替换文本或所述第二替换文本中待更新字的位置进行预测,获得待更新字的预测位置的步骤,直至所述第一替换文本或所述第二替换文本中所有待更新字均被替换,则迭代终止,获得预测文本,并根据所述标准文本对所述待训练质量感知遮挡语言模型进行训练,获得训练好的质量感知遮挡语言模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911040951.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种凹凸棒土复合脱酸材料及其应用
- 下一篇:用于目标检测网络的通道剪枝方法