[发明专利]文本生成模型的训练方法、装置、电子设备及存储介质在审
申请号: | 202310012566.5 | 申请日: | 2023-01-05 |
公开(公告)号: | CN116011445A | 公开(公告)日: | 2023-04-25 |
发明(设计)人: | 伍星;高超尘;林梓佳 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F18/214;G06N3/0455;G06N3/04;G06N3/084 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 李娜 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开关于一种文本生成模型的训练方法、装置、电子设备及存储介质,该方法包括:对文本样本中连续的至少两个词进行掩码操作,得到包括掩码片段的掩码文本;根据文本样本和掩码文本,对自然语言理解模型进行训练;将掩码文本输入训练完成的自然语言理解模型,得到针对掩码片段的第一输出结果,并将掩码文本输入文本生成模型,得到针对掩码片段的第二输出结果;根据第二输出结果和第一输出结果,确定文本生成模型的第一损失函数值,根据第二输出结果和文本样本,确定文本生成模型的第二损失函数值;根据第一损失函数值和第二损失函数值,对文本生成模型的网络参数进行调整,获得预训练完成的文本生成模型。本公开可以提高文本生成结果的准确性。 | ||
搜索关键词: | 文本 生成 模型 训练 方法 装置 电子设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310012566.5/,转载请声明来源钻瓜专利网。