[发明专利]一种语言模型的训练方法、样本数据的构建方法及装置在审
| 申请号： | 202210435206.1 | 申请日： | 2022-04-24 |
| 公开（公告）号： | CN115114396A | 公开（公告）日： | 2022-09-27 |
| 发明（设计）人： | 王冠颖;汪硕芃;王丽;张聪;范长杰;胡志鹏 | 申请（专利权）人： | 网易（杭州）网络有限公司 |
| 主分类号： | G06F16/33 | 分类号： | G06F16/33;G06F40/289;G06K9/62 |
| 代理公司： | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人： | 冯德魁 |
| 地址： | 310052 浙江省杭州*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请涉及一种语言模型的训练方法，包括：获取语句样本数据集，所述语句样本数据集中的语句样本分别包含文本标签部分，所述文本标签用于表征对应语句样本的类别；以预定的方式对所述语句样本中除所述文本标签外的其他部分进行破坏处理；将破坏处理后的语句样本输入至语言模型中，获得预测结果；基于所述预测结果和所述语句样本，确定是否满足预设的收敛条件；若不满足条件，则对语言模型进行参数调整，并基于参数调整后的语言模型进行下一轮的训练，直到满足预设的收敛条件，得到目标语言模型。本申请通过特别生成的包含有文本标签的语句样本数据集，作为在初语言模型训练中的依据，能够有效生成目标语言模型，进而实现目标类别语句样本的扩展。 | ||
| 搜索关键词： | 一种 语言 模型 训练 方法 样本 数据 构建 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于网易（杭州）网络有限公司，未经网易（杭州）网络有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210435206.1/，转载请声明来源钻瓜专利网。
