[发明专利]一种bert模型压缩加速的方法、系统、设备及介质在审
| 申请号： | 202011438005.4 | 申请日： | 2020-12-10 |
| 公开（公告）号： | CN112613614A | 公开（公告）日： | 2021-04-06 |
| 发明（设计）人： | 王曦辉 | 申请（专利权）人： | 苏州浪潮智能科技有限公司 |
| 主分类号： | G06N5/04 | 分类号： | G06N5/04;G06N20/20 |
| 代理公司： | 北京连和连知识产权代理有限公司 11278 | 代理人： | 张涛;陈黎明 |
| 地址： | 215100 江苏省苏州市吴*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种bert模型压缩加速的方法、系统、设备和存储介质，方法包括：构建第一学生模型，使用通用数据集训练所述第一学生模型，并基于基准bert模型将所述第一学生模型转化为预训练bert模型；构建第二学生模型，使用自然语言任务数据集训练所述第二学生模型，并基于所述预训练bert模型将所述第二学生模型转换为伪量化模型；以及将所述伪量化模型转换成量化模型，并对所述量化模型的算子进行合并以生成推理引擎。本发明压缩了bert模型的体积，加快了推理速度，提高了bert模型的整体性能。 | ||
| 搜索关键词： | 一种 bert 模型 压缩 加速 方法 系统 设备 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司，未经苏州浪潮智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011438005.4/，转载请声明来源钻瓜专利网。
- 上一篇：一种按压冷敷的止血装置
- 下一篇：一种应用于船舶的DC-DC电路、开关电源
