[发明专利]多语言BERT序列标注模型的压缩方法及系统有效
| 申请号： | 202011490078.8 | 申请日： | 2020-12-16 |
| 公开（公告）号： | CN112613273B | 公开（公告）日： | 2022-09-23 |
| 发明（设计）人： | 撖朝润;李琦;傅洛伊;王新兵 | 申请（专利权）人： | 上海交通大学 |
| 主分类号： | G06F40/126 | 分类号： | G06F40/126;G06F40/242;G06F40/289;G06F40/295 |
| 代理公司： | 上海汉声知识产权代理有限公司 31236 | 代理人： | 胡晶 |
| 地址： | 200240 *** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了多语言BERT序列标注模型的压缩方法及系统，涉及BERT类模型的知识蒸馏技术领域，该方法包括：步骤1：基于Wordpiece算法从多语语料中抽取词表；步骤2：对多/单语言BERT教师模型、多语言BERT学生模型进行预训练；步骤3：基于人工标注的下游任务数据对多/单语言BERT教师模型进行微调；步骤4：利用多/单语言BERT教师模型对预训练后的多语言BERT学生模型进行残差知识蒸馏；步骤5：基于人工标注的下游任务数据对蒸馏后的多语言BERT学生模型进行微调。本发明通过残差学习和多对一的知识蒸馏方式，提高了学生模型的准确率和泛化程度，降低了多语言环境下BERT类序列标注模型部署所需的硬件资源。 | ||
| 搜索关键词： | 语言 bert 序列 标注 模型 压缩 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海交通大学，未经上海交通大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011490078.8/，转载请声明来源钻瓜专利网。
