[发明专利]一种基于可编程器件的卷积神经网络加速方法与系统有效
申请号: | 201710469354.4 | 申请日: | 2017-06-20 |
公开(公告)号: | CN107392308B | 公开(公告)日: | 2020-04-03 |
发明(设计)人: | 陆维娜;卢文岩;叶靖;胡瑜;李晓维 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;梁挥 |
地址: | 100080 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 可编程 器件 卷积 神经网络 加速 方法 系统 | ||
1.一种基于可编程器件的卷积神经网络加速方法,其特征在于,包括:
步骤S1、设计卷积神经网络在可编程器件上的基本结构,并根据该可编程器件所拥有的计算资源、可用带宽以及该基本结构,建立卷积神经网络加速器计算资源与并行化参数、带宽上限频率与并行化参数的量化模型,其中该基本结构包括该卷积神经网络加速器;
步骤S2、输入多个并行化参数,根据该可编程器件的供电电压、片内温度、元件工艺,分别探索该可编程器件在各个该并行化参数下所能达到的最高时钟频率,集合该最高时钟频率作为实验结果,并根据该实验结果建立该最高时钟频率关于并行化参数的分析模型;
步骤S3、根据该分析模型和该量化模型,求解出使该卷积神经网络性能最优的并行化参数,作为最优并行化参数,并根据该最优并行化参数推导出该卷积神经网络各层具体的最优并行策略,使得该卷积神经网络加速器运行该最优并行策略;
其中该步骤S2包括:
步骤S201、遍历该多个并行化参数,从中选取一个并行化参数推导其相应的并行策略;
步骤S202、基于该并行策略,并使用通用工具完成该卷积神经网络加速器的设计,获取通用工具报出的保守最高时钟频率;
步骤S203、在该可编程器件上采用该并行策略运行该卷积神经网络加速器,该卷积神经网络加速器循环读入已知输出的测试集进行运算;
步骤S204、初始化该可编程器件的运行频率为该保守最高时钟频率;
步骤S205、实时监测该可编程器件的片内温度,判断该片内温度是否稳定,若是,则执行步骤S206,否则,重复该步骤S205继续监测该可编程器件的片内温度;
步骤S206、检验该可编程器件的运算结果是否正确,若正确,则执行步骤S207;否则,执行步骤S208;
步骤S207、提升该可编程器件的运行频率,并判断提升后的该运行频率是否超出该可编程器件时钟源所能提供的上限频率,若是,则执行步骤S208,否则,执行步骤S205;
步骤S208、停止该运行频率的提升,报出该并行化参数下运算结果正确的该最高时钟频率;
步骤S209、判断是否对该多个并行化参数遍历完全,若是,则结束;否则,继续执行步骤S201;
该量化模型具体为计算资源和带宽上限频率关于并行化参数的卷积神经网络,该分析模型具体为最高时钟频率关于并行化参数的反比例指数衰减拟合模型。
2.如权利要求1所述的基于可编程器件的卷积神经网络加速方法,其特征在于,该并行化参数为该卷积神经网络进行一次前馈运算的时钟周期数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710469354.4/1.html,转载请声明来源钻瓜专利网。