[发明专利]基于异构计算的卷积神经网络资源优化配置方法有效
申请号: | 201911293482.3 | 申请日: | 2019-12-12 |
公开(公告)号: | CN112988229B | 公开(公告)日: | 2022-08-05 |
发明(设计)人: | 王浩;曹姗;徐树公;张舜卿 | 申请(专利权)人: | 上海大学 |
主分类号: | G06F9/30 | 分类号: | G06F9/30;G06N3/04 |
代理公司: | 上海交达专利事务所 31201 | 代理人: | 王毓理;王锡麟 |
地址: | 200444*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 计算 卷积 神经 网络资源 优化 配置 方法 | ||
1.一种基于异构计算的卷积神经网络资源优化配置方法,其特征在于,针对卷积神经网络的卷积层、偏置层、池化层、relu层和全连接层进行逐层计算复杂度分析和数据复杂度分析,得到计算通信比,基于计算通信比的排序在异构计算平台上以运算速度和效率作为优化目标进行资源配置,即将计算通信比高的部分,即大于2(op/Byte)时属于计算密集型的部分配置于FPGA上进行计算,其余部分配置于ARM上进行计算;
所述的包括:卷积层的计算通信比为:全连接层的计算通信比为:池化层和Relu层的计算通信比趋向于无穷;偏置层的计算通信比为:其中:
所述的卷积层的总的数据复杂度为:Win*Hin*N+Kw*Kh*N*M+Wout*Hout*M,总的计算复杂度为:(2*Kw*Kh*N-1)*Wout*Hout*M,其中:输入特征图的尺寸是Win*Hin*N,卷积核的尺寸是Kw*Kh*N*M,输出特征图尺寸是Wout*Hout*M;乘法运算复杂度为:Kw*Kh*N*Wout*Hout*M;加法运算复杂度为:(Kw*Kh*N-1)*Wout*Hout*M;特征图数据复杂度:Win*Hin*N+Wout*Hout*M;参数数据复杂度:Kw*Kh*N*M;
所述的全连接层的总的数据复杂度为:总的计算复杂度为:2*N*M-M,总的数据复杂度为:N+M+M*N,其中:输入向量的维度是N,输出向量的维度是M,权值的尺寸N*M,乘法运算复杂度为:N*M;加法运算复杂度为:(N-1)*M;特征图数据复杂度:N+M;参数数据复杂度:M*N;
所述的池化层的总的计算复杂度为:(Kw*Kh-1)*Wout*Hout*N,总的数据复杂度为:Win*Hin*N+Wout*Hout*N,其中:输入特征图的尺寸是Win*Hin*N,滑窗的尺寸是Kw*Kh,输出特征图尺寸是Wout*Hout*N;特征图数据复杂度:Win*Hin*N+Wout*Hout*N;参数数据复杂度:0;
所述的偏置层的总的计算复杂度为:W*H*M,总的数据复杂度为:W*H*(M+N)+M,其中:输入特征图的尺寸是W*H*N,输出特征图尺寸是W*H*M;特征图数据复杂度:W*H*(M+N);参数数据复杂度:M;
所述的Relu层的总的计算复杂度为:W*H*N,总的数据复杂度为:2*N*W*H,其中:输入特征图的尺寸是W*H*N,输出特征图尺寸是W*H*N;特征图数据复杂度:2*N*W*H;参数数据复杂度:0。
2.根据权利要求1所述的基于异构计算的卷积神经网络资源优化配置方法,其特征是,将全连接层配置于ARM上进行处理,而其余层在FPGA上进行处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海大学,未经上海大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911293482.3/1.html,转载请声明来源钻瓜专利网。