[发明专利]一种卷积网络加速方法、装置及系统有效
申请号: | 201910760810.X | 申请日: | 2019-08-16 |
公开(公告)号: | CN110516790B | 公开(公告)日: | 2023-08-22 |
发明(设计)人: | 杨宏斌;范宝余;李仁刚;赵雅倩;董刚;刘海威 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/063;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 刘志红 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 卷积 网络 加速 方法 装置 系统 | ||
本发明公开了一种卷积网络加速方法、装置及系统,包括获取预先存储的固定长度指令集,固定长度指令集为预先基于待处理卷积网络的结构和参数信息建立的;固定长度指令集中包括多个固定长度赋值指令和固定长度操作指令,每个固定长度赋值指令和每个固定长度操作指令分别对应至少一个寄存器;依据与固定长度赋值指令对应的寄存器值对相应的固定长度操作指令的寄存器进行赋值,以便依据寄存器的寄存器值确定相应的指令参数;固定长度赋值指令对应的寄存器值为依据卷积网络的参数信息确定的;依据与固定长度操作指令对应的寄存器值获取相应的指令参数,并根据指令参数执行相应的操作;本发明节约内存、使用灵活性强、编译和映射的效率高、难度低。
技术领域
本发明实施例涉及神经网络技术领域,特别是涉及一种卷积网络加速方法、装置及系统。
背景技术
通常卷积网络加速过程包括卷积、数据操作、通用计算、主机交互和池化等过程,现有技术中在对卷积网络进行卷积网络加速时,需要根据具体参数分别设计独立的指令,每条指令的参数固定,也即每条指令对应固定的操作,由于操作量较大,因此需要设计成千上万条指令,占用较大的内存,影响深度神经网络编译和映射的效率及难度。另外,由于指令的通用性较差,导致在对不同卷积网络进行卷积网络加速时,均需要针对每个卷积网络的具体参数设计大量的指令,费时费力。
鉴于此,如何提供一种解决上述技术问题的卷积网络加速方法、装置及系统成为本领域技术人员需要解决的问题。
发明内容
本发明实施例的目的是提供一种卷积网络加速方法、装置及系统,在使用过程中不仅节约内存,提高深度神经网络编译和映射的效率、降低编译和映射难度,而且使用灵活性强,有利于支持深度学习应用的快速自适应部署。
为解决上述技术问题,本发明实施例提供了一种卷积网络加速方法,包括:获取预先存储的固定长度指令集,所述固定长度指令集为预先基于待处理卷积网络的结构和参数信息建立的;其中,所述固定长度指令集中包括多个固定长度赋值指令和固定长度操作指令,每个所述固定长度赋值指令和每个所述固定长度操作指令分别对应至少一个寄存器;
依据与所述固定长度赋值指令对应的寄存器值对相应的固定长度操作指令的寄存器进行赋值,以便依据所述寄存器的寄存器值确定相应的指令参数;所述固定长度赋值指令对应的寄存器值为依据所述卷积网络的参数信息确定的;
依据与所述固定长度操作指令对应的寄存器值获取相应的指令参数,并根据所述指令参数执行相应的操作。
可选的,所述依据与所述固定长度操作指令对应的寄存器值获取对应的指令参数,并根据所述指令参数执行相应的操作的过程为:
对所述固定长度操作指令进行解析得到所述固定长度操作指令的指令编码和指令格式,所述指令格式包括寄存器编码;
依据所述指令编码以及预先建立的指令编码及操作部件的对应关系,确定出与所述指令编码对应的目标操作部件;
依据所述寄存器编码从各个所述寄存器中确定出与所述固定长度操作指令对应的寄存器,并获取所述寄存器的寄存器值;
将与所述寄存器值对应的指令参数发送至所述目标操作部件,以便所述目标操作部件依据所述指令参数执行相应的操作。
可选的,与每个所述固定长度操作指令分别对应的寄存器包括条件寄存器;所述寄存器编码包括条件寄存器编码;
则,在所述依据所述指令编码以及预先建立的指令编码及操作部件的对应关系,确定出与所述指令编码对应的目标操作部件之前,还包括:
依据所述条件寄存器编码从各个所述寄存器中确定出与所述固定长度操作指令对应的条件寄存器,并读取所述条件寄存器的寄存器值;
依据所述条件寄存器的寄存器值及第一预设规则判断是否执行所述固定长度操作指令,若是,则执行下一步。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910760810.X/2.html,转载请声明来源钻瓜专利网。