[发明专利]一种基于异构平台的神经网络推理加速方法在审
申请号: | 202210361419.4 | 申请日: | 2022-04-07 |
公开(公告)号: | CN114742225A | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 张俊;秦文强;李芳;任亭亭;李文静;黎伟 | 申请(专利权)人: | 中国科学院合肥物质科学研究院 |
主分类号: | G06N5/04 | 分类号: | G06N5/04;G06N3/04;G06N3/063;G06N3/08;G06F15/78 |
代理公司: | 合肥天明专利事务所(普通合伙) 34115 | 代理人: | 苗娟 |
地址: | 230031 安徽*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明的一种基于异构平台的神经网络推理加速方法,包括利用处理器+FPGA的异构平台搭建神经网络加速器推理的硬件系统,处理器负责逻辑控制,FPGA负责对计算密集型任务并行加速,充分发挥异构平台的优势;首先在FPGA中设计神经网络加速器,神经网络加速器包括普通卷积模块、深度可分离卷积模块、全连接模块、池化模块、批归一化模块、激活函数模块,来完成神经网络卷积计算与输出数据的处理。然后,利用卷积分块、并行卷积计算、缓存的设置与优化、数据流优化、流水化来进行有效加速,提高了卷积神经网络加速器的运算速度和资源利用率。本发明可用于加速包含普通卷积、深度可分离卷积、批归一化、激活函数、池化、全连接算子的卷积神经网络的前向推理。 | ||
搜索关键词: | 一种 基于 平台 神经网络 推理 加速 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院合肥物质科学研究院,未经中国科学院合肥物质科学研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210361419.4/,转载请声明来源钻瓜专利网。