[发明专利]适用神经网络处理器的自动化设计方法、装置及优化方法有效
申请号: | 201710178679.7 | 申请日: | 2017-03-23 |
公开(公告)号: | CN107016175B | 公开(公告)日: | 2018-08-31 |
发明(设计)人: | 韩银和;许浩博;王颖 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06F17/50 | 分类号: | G06F17/50;G06N3/02 |
代理公司: | 北京律诚同业知识产权代理有限公司 11006 | 代理人: | 祁建国;梁挥 |
地址: | 100080 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 适用 神经网络 处理器 自动化 设计 方法 装置 优化 | ||
1.一种适用神经网络处理器的自动化设计方法,其特征在于,包括:
步骤1,获取神经网络模型拓扑结构配置文件与硬件资源约束文件,其中所述硬件资源约束文件包括目标电路面积开销、目标电路功耗开销及目标电路工作频率;
步骤2,根据所述神经网络模型拓扑结构配置文件与所述硬件资源约束文件生成神经网络处理器硬件架构,并生成硬件架构描述文件;
步骤3,根据所述神经网络模型拓扑结构、所述硬件资源约束文件及所述硬件架构描述文件优化数据调度、存储及计算方式,生成对应的控制描述文件;
步骤4,根据所述硬件架构描述文件、所述控制描述文件从已构建的神经网络可复用单元库查找符合设计要求的单元库、生成相对应的控制逻辑并生成对应的硬件电路描述语言,将所述硬件电路描述语言转化为硬件电路;
其中步骤3还包括调用编译器,根据神经网络拓扑结构、硬件电路结构及约束文件生成控制指令流,对神经网络处理器进行实时控制,并在编译阶段采用卷积核分割及数据共享的优化算法,所述优化算法包括:对于给定的神经网络层,若卷积核大小和步进值一致,则采用权重共享模式,卷积核在单层数据图内进行卷积操作,若数据图层数小于计算单元宽度,采用卷积核分割的方法,将卷积核进行分割,若数据图层数大于计算单元宽度,采用数据共享方式;判断下一神经网络层的计算方式,并根据下一神经网络层的卷积操作方式存储当前层的计算结果。
2.如权利要求1所述的适用神经网络处理器的自动化设计方法,其特征在于,所述神经网络模型拓扑结构配置文件包括神经网络层数及每层网络尺寸大小、数据位宽、权重位宽、当前层功能属性、当前层输入层数、当前层输出层数、当前层卷积核大小、当前层步进大小,下一层连接属性。
3.如权利要求1所述的适用神经网络处理器的自动化设计方法,其特征在于,在生成神经网络电路模型的同时生成控制指令流,指令类型包括载入/存储指令和运算指令类型。
4.如权利要求1所述的适用神经网络处理器的自动化设计方法,其特征在于,所述步骤3包括:根据所述神经网络模型拓扑结构配置文件进行卷积核分块、数据分块,并生成控制状态机;根据所述控制状态机生成控制指令流。
5.如权利要求1所述的适用神经网络处理器的自动化设计方法,其特征在于,所述硬件架构描述文件包括输入数据存储器容量、输入存储器位宽、权重存储器容量、权重存储器位宽、偏置存储器容量、偏置存储器位宽、输出数据存储器容量、输出数据存储器位宽、数据位宽、计算单元宽度、计算单元深度、数据共享标志位及权重共享标志位。
6.一种适用神经网络处理器的自动化设计装置,其特征在于,包括:
获取数据模块,用于获取神经网络模型拓扑结构配置文件与硬件资源约束文件,其中所述硬件资源约束文件包括目标电路面积开销、目标电路功耗开销及目标电路工作频率;
生成硬件架构描述文件模块,用于根据所述神经网络模型拓扑结构配置文件与所述硬件资源约束文件生成神经网络处理器硬件架构,并生成硬件架构描述文件;
生成控制描述文件模块,用于根据所述神经网络模型拓扑结构、所述硬件资源约束文件及所述硬件架构描述文件优化数据调度、存储及计算方式,生成对应的控制描述文件;
生成硬件电路模块,用于根据所述硬件架构描述文件、所述控制描述文件从已构建的神经网络可复用单元库查找符合设计要求的单元库并生成对应的硬件电路描述语言,将所述硬件电路描述语言转化为硬件电路;
其中生成控制描述文件模块还包括调用编译器,根据神经网络拓扑结构、硬件电路结构及约束文件生成控制指令流,对神经网络处理器进行实时控制,并在编译阶段采用卷积核分割及数据共享的优化算法,所述优化算法包括:对于给定的神经网络层,若卷积核大小和步进值一致,则采用权重共享模式,卷积核在单层数据图内进行卷积操作,若数据图层数小于计算单元宽度,采用卷积核分割的方法,将卷积核进行分割,若数据图层数大于计算单元宽度,采用数据共享方式;判断下一神经网络层的计算方式,并根据下一神经网络层的卷积操作方式存储当前层的计算结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710178679.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种电气自动控制开关
- 下一篇:一种阻抗继电器