[发明专利]模型预训练方法、装置、设备、存储介质以及程序产品在审
| 申请号： | 202111260446.4 | 申请日： | 2021-10-28 |
| 公开（公告）号： | CN113962315A | 公开（公告）日： | 2022-01-21 |
| 发明（设计）人： | 尚骏远;王硕寰;丁思宇;赵晏彬;庞超;孙宇 | 申请（专利权）人： | 北京百度网讯科技有限公司 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06N3/08;G06F40/289;G06F16/35 |
| 代理公司： | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人： | 王达佐;马晓亚 |
| 地址： | 100085 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开提供了一种模型预训练方法、装置、设备、存储介质以及程序产品，涉及人工智能技术领域，具体为自然语言处理和深度学习技术领域。该方法的一具体实施方式包括：获取样本自然语言文本；基于样本自然语言文本，生成N种类型的提示词，其中N为正整数；基于样本自然语言文本和N种类型的提示词，生成样本输入数据；基于样本输入数据对初始语言模型进行训练，得到预训练语言模型。该实施方式提供了一种基于提示词的可控生成预训练技术，增加了模型的可控性。 | ||
| 搜索关键词： | 模型 训练 方法 装置 设备 存储 介质 以及 程序 产品 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司，未经北京百度网讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111260446.4/，转载请声明来源钻瓜专利网。
- 上一篇：一种煤矿井下车辆ROPS驾驶室检测试验台
- 下一篇：一种造纸用新型杀菌剂
