[发明专利]一种基于深度学习模型的推理方法在审
申请号: | 202010621651.8 | 申请日: | 2020-06-30 |
公开(公告)号: | CN113869517A | 公开(公告)日: | 2021-12-31 |
发明(设计)人: | 张烁;谢宏伟;丁煌浩;胡聪钢;蔡岭;李名杨 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06N5/04 | 分类号: | G06N5/04;G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 北京成创同维知识产权代理有限公司 11449 | 代理人: | 李秀霞 |
地址: | 开曼群岛大开曼*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于深度学习模型的推理方法。该深度学习模型包括多个依次连接的模型层,各模型层具有其权重矩阵。该方法包括步骤:接收要由深度学习模型进行推理计算的输入矩阵,以便将输入矩阵中的每个输入矩阵单元量化为具有第一比特位数的整数值;利用各模型层执行推理,其中由多个依次连接的模型层中的第一层接收量化后的输入矩阵,利用其权重矩阵对输入矩阵进行矩阵运算以产生输出矩阵,将输出矩阵中的每个矩阵单元重新量化为具有第一比特位数的整数值,并将输出矩阵发送给下一层模型进行进一步运算;以及基于多个依次连接的模型层中的最后一层产生的输出矩阵来获取推理结果。 | ||
搜索关键词: | 一种 基于 深度 学习 模型 推理 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010621651.8/,转载请声明来源钻瓜专利网。