[发明专利]文本生成方法、装置和电子设备有效
申请号: | 202010352129.4 | 申请日: | 2020-04-28 |
公开(公告)号: | CN111563390B | 公开(公告)日: | 2022-03-15 |
发明(设计)人: | 李磊;王明轩;董倩倩;童剑 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06K9/62;G06N3/04;G06N3/08;G06V10/764;G06V10/82 |
代理公司: | 北京风雅颂专利代理有限公司 11403 | 代理人: | 徐雅琴 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 生成 方法 装置 电子设备 | ||
1.一种文本生成方法,其特征在于,包括:
接收原始文本;
利用第一方式将所述原始文本转换成第一目标文本;
利用不同于所述第一方式的第二方式将所述原始文本转换成第二目标文本;
基于所述原始文本、所述第一目标文本和所述第二目标文本生成目标文本;
其中,所述利用不同于所述第一方式的第二方式将所述原始文本转换为第二目标文本包括:基于转换模型将原始文本转换为第二目标文本,所述转换模型通过以下步骤进行训练:
获取标准文本,其中所述标准文本为不包含待修改的部分文本的文本;
在所述标准文本中嵌入噪声词生成预训练数据集;
根据所述预训练数据集对所述转换模型进行预训练得到预训练的转换模型;
获取训练数据集,根据所述训练数据集训练所述预训练的转换模型得到所述转换模型。
2.如权利要求1所述的文本生成方法,其特征在于,所述基于所述原始文本、所述第一目标文本和所述第二目标文本生成目标文本,包括:
基于所述第一目标文本和所述第二目标文本确定待修改的部分文本;
在所述原始文本中修改所述待修改的部分文本得到所述目标文本。
3.如权利要求1所述的文本生成方法,其特征在于,所述利用第一方式将所述原始文本转换成第一目标文本,包括:
基于预设的字典以及规则库生成第一目标文本的正则表达式;
根据所述正则表达式从所述原始文本中匹配出所述第一目标文本。
4.如权利要求3所述的文本生成方法,其特征在于,所述正则表达式包括:
语气词的正则表达式、叠词的正则表达式、口语修正模板的正则表达式、预设的固定正则表达式中的一个或多个。
5.如权利要求4所述的文本生成方法,其特征在于,所述根据所述正则表达式从所述原始文本中匹配出所述第一目标文本,包括:
根据所述正则表达式从所述原始文本中匹配出候选第一目标文本;
将所述候选第一目标文本输入语言模型判断所述候选第一目标文本为第一目标文本的置信度;
将置信度高于第一阈值的候选第一目标文本作为所述第一目标文本。
6.如权利要求3所述的文本生成方法,其特征在于,所述根据所述正则表达式从所述原始文本中匹配出所述第一目标文本,包括:
根据所述正则表达式从所述原始文本中匹配出候选第一目标文本;
对所述候选第一目标文本进行分词或词性判断得到所述候选第一目标文本中的第一目标文本。
7.如权利要求3所述的文本生成方法,其特征在于,所述方法还包括:
当所述第一目标文本转换错误,根据所述转换错误的第一目标文本更新所述预设的字典以及规则库。
8.如权利要求1所述的文本生成方法,其特征在于,所述转换模型为包括编码器和解码器结构的模型,所述转换模型的训练步骤中还包括:
将解码器的输出向量输入分类层得到每个词的分类概率,其中所述分类概率表示每个词为所述第二目标文本的概率;
将解码器的输出向量输入序列预测层得到预测序列的概率;
将所述分类概率和所述预测序列概率输入模型损失函数计算所述转换模型的误差;
根据所述误差更新模型的参数。
9.如权利要求8所述的文本生成方法,其特征在于,所述模型损失函数包括:
预测序列损失函数以及分类损失函数;
其中,所述预测序列损失函数还包括调节系数,当所述词被分类为第二目标文本时,所述调节系数的值不为1。
10.如权利要求1所述的文本生成方法,其特征在于,所述转换模型为包括编码器和解码器结构的模型,所述转换模型的训练步骤中还包括:
将所述编码器的输出向量输入一个全连接层;
所述全连接层的输出通过激活函数激活得到第一输出向量;
将所述第一输出向量与所述编码器的输入向量相乘得到所述解码器的输入向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010352129.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:多功能配电箱
- 下一篇:一种内链添加方法及装置