[发明专利]一种神经网络异构量化训练方法有效
申请号: | 201910354693.7 | 申请日: | 2019-04-29 |
公开(公告)号: | CN110097186B | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 王子彤;姜凯;秦刚 | 申请(专利权)人: | 山东浪潮科学研究院有限公司 |
主分类号: | G06N3/084 | 分类号: | G06N3/084 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 阚恭勇 |
地址: | 250000 山东省济*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种神经网络异构量化训练方法,属于人工神经网络技术领域,本发明在传统基于CPU或GPU或二者结合的训练架构基础上,添加高速接口逻辑,通过高速接口逻辑连接硬件计算加速模块,训练过程中间特定的某一步或几步计算过程下放至所述硬件计算加速模块,计算完成后结果经所述高速接口逻辑返回至源训练主控,完成具有特定定制功能的训练过程。将前沿新结构或新算法快速实现并部署到训练中,提高系统灵活性,降低存储与带宽需求,减少正向预测过程中资源需求,降低训练复杂度,提高训练效率,保证当前训练装置能较好适应最新的神经网络结构。 | ||
搜索关键词: | 一种 神经网络 量化 训练 方法 | ||
【主权项】:
1.一种神经网络异构量化训练方法,其特征在于,在传统基于CPU或GPU或二者结合的训练架构基础上,添加高速接口逻辑,通过高速接口逻辑连接硬件量化加速模块,在训练过程中将模型参数与特征图结果的量化计算过程下放至硬件量化加速模块,将量化计算完成后的结果经所述高速接口逻辑返回至源训练主控,更新量化后的模型参数,迭代完成具有模型参数与特征图结果量化功能的训练过程。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东浪潮科学研究院有限公司,未经山东浪潮科学研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910354693.7/,转载请声明来源钻瓜专利网。