[发明专利]翻译模型量化方法和装置在审
申请号: | 202010087096.5 | 申请日: | 2020-02-11 |
公开(公告)号: | CN113255375A | 公开(公告)日: | 2021-08-13 |
发明(设计)人: | 吴晓琳 | 申请(专利权)人: | 北京小米松果电子有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N20/00 |
代理公司: | 北京名华博信知识产权代理有限公司 11453 | 代理人: | 姜超 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本公开是关于一种翻译模型量化方法和装置。涉及深度学习技术,解决了量化过程中产生精度损失的问题。该方法包括:对训练阶段得到的至少一个训练阶段变量,分别进行伪量化层的局部量化处理,得到各训练阶段变量对应的精度损失校正变量;以所述精度损失校正变量作为输入,进行推理阶段处理。本公开提供的技术方案适用于计算占比大、量化数值稳定的算子的量化,在提高运算效率的同时降低了精度损失。 | ||
搜索关键词: | 翻译 模型 量化 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小米松果电子有限公司,未经北京小米松果电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010087096.5/,转载请声明来源钻瓜专利网。
- 上一篇:饲料添加剂及其应用
- 下一篇:一种集成电感及功率变换器