[发明专利]语言模型的训练方法、装置、设备及存储介质在审
申请号: | 202210555573.5 | 申请日: | 2022-05-19 |
公开(公告)号: | CN115114433A | 公开(公告)日: | 2022-09-27 |
发明(设计)人: | 周洁;田乐;周霄 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/30;G06F40/216;G06F40/284;G06N3/04;G06N3/08 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 祝亚男 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种语言模型的训练方法、装置、设备及存储介质,涉及人工智能领域。方法包括:基于提示文本和样本文本构建第一输入文本,提示文本中包含样本标签,样本标签为样本文本的标签,第一输入文本中缺少样本标签;基于第一输入文本构建第二输入文本,第二输入文本与第一输入文本的语义一致,第二输入文本中包含样本标签,且缺少部分文本内容,其中,缺少的文本内容属于样本文本;基于第一输入文本和第二输入文本调整预训练语言模型,预训练语言模型用于基于输入文本的上下文信息预测输入文本中的缺失内容。本申请实施例方案有助于提高少样本场景下语言模型的训练质量。 | ||
搜索关键词: | 语言 模型 训练 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210555573.5/,转载请声明来源钻瓜专利网。