[发明专利]一种语言模型的训练方法及装置有效
| 申请号： | 201910086877.X | 申请日： | 2019-01-29 |
| 公开（公告）号： | CN109800435B | 公开（公告）日： | 2023-06-20 |
| 发明（设计）人： | 李长亮;徐智涛;齐济 | 申请（专利权）人： | 北京金山数字娱乐科技有限公司;北京金山软件有限公司 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06F40/289;G06F40/216;G06N20/00 |
| 代理公司： | 北京集佳知识产权代理有限公司 11227 | 代理人： | 张小娜;王宝筠 |
| 地址： | 100085 北京市海淀*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种语言模型的训练方法及装置，所述方法包括：在获取到包括大量样本文本的语言模型训练数据后，可以将这些样本文本进行分词处理，以得到每一分词的分词标签，其中，分词标签包括对应分词中的每一字在对应分词中的位置信息，接着，可以根据这些样本文本中每一分词的分词标签，对语言模型进行训练。可见，本申请将样本文本的分词标签作为训练数据对语言模型进行训练，使得训练语言模型所使用的数据更为全面，从而能够降低语言模型的PPL值，提升了语言模型的效果。 | ||
| 搜索关键词： | 一种 语言 模型 训练 方法 装置 | ||
【主权项】：
1.一种语言模型的训练方法，其特征在于，包括：获取语言模型的训练数据，所述训练数据包括大量的样本文本；将所述样本文本进行分词处理，得到每一分词的分词标签，所述分词标签包括对应分词中的每一字在对应分词中的位置信息；根据所述样本文本中每一分词的分词标签，对所述语言模型进行训练。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司;北京金山软件有限公司，未经北京金山数字娱乐科技有限公司;北京金山软件有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910086877.X/，转载请声明来源钻瓜专利网。
- 上一篇：基于眼动注意力的抽象文本标题生成方法
- 下一篇：问卷调查方法及系统
