[发明专利]被配置用于层和操作防护和依赖性管理的功率高效的深度神经网络处理器及方法有效
申请号: | 201880025488.X | 申请日: | 2018-04-13 |
公开(公告)号: | CN110537194B | 公开(公告)日: | 2023-07-07 |
发明(设计)人: | C·B·麦克布赖德;A·A·安巴德卡;K·D·塞多拉;G·彼得;L·M·瓦尔;B·博布罗夫 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06F9/48 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 赵林琳;郭星 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 配置 用于 操作 防护 依赖性 管理 功率 高效 深度 神经网络 处理器 方法 | ||
1.一种神经网络处理器,包括:
存储器设备,存储包括针对神经网络的第一层描述符的层描述符列表,所述第一层描述符指定针对所述第一层描述符的执行所依赖的第二层描述符的标识符ID,其中所述层描述符列表是预编译的,并且包括用于执行神经网络的前向传递的指令;
硬件寄存器,存储最近完成的层描述符的ID;以及
控制器,被配置为:
确定被存储在所述硬件寄存器中的所述最近完成的层描述符的所述ID是否小于所述第二层描述符的ID,
响应于确定所述最近完成的层描述符的所述ID不小于所述第二层描述符的所述ID,使得所述神经网络处理器执行所述第一层描述符,以及
响应于确定所述最近完成的层描述符的所述ID小于所述第二层描述符的所述ID,使得所述神经网络处理器暂缓所述第一层描述符的执行。
2.根据权利要求1所述的神经网络处理器,其中所述第一层描述符的执行被暂缓,直到被存储在所述硬件寄存器中的所述最近完成的层描述符的所述ID等于所述第二层描述符的所述ID。
3.根据权利要求1所述的神经网络处理器,其中所述神经网络处理器还被配置为执行所述层描述符列表中的层描述符,并且将所述最近完成的层描述符的所述ID存储在所述硬件寄存器中。
4.根据权利要求1所述的神经网络处理器,其中所述标识符以单调递增顺序被分配给所述层描述符列表中的所述层描述符。
5.根据权利要求1所述的神经网络处理器,其中所述第一层描述符包括以下各项中的一项:存储器到存储器移动M2M描述符、操作描述符、主机通信描述符、配置描述符、分支描述符、或者同步描述符。
6.根据权利要求1所述的神经网络处理器,其中所述第二层描述符包括以下各项中的一项:存储器到存储器移动M2M描述符、操作描述符、主机通信描述符、配置描述符、分支描述符、或者同步描述符。
7.根据权利要求1所述的神经网络处理器,其中所述层描述符列表包括指定防护操作的第三层描述符,并且其中所述控制器还被配置为:
至少部分地基于所述最近完成的层描述符的所述ID,确定所述层描述符列表中具有ID小于所述第三层描述符的ID的所有层描述符是否已经完成执行,
响应于确定所述层描述符列表中ID小于所述第三层描述符的所述ID的所有层描述符已经完成执行,使得所述神经网络处理器执行所述第三层描述符,以及
响应于确定所述层描述符列表中具有ID小于所述第三层描述符的所述ID的所有层描述符尚未完成执行,使得所述神经网络处理器暂缓所述第三层描述符的执行。
8.一种神经网络处理器,包括:
存储器设备,存储包括针对神经网络的第一层描述符的层描述符列表;
硬件寄存器,存储最近完成的层描述符的标识符ID;以及
控制器,被配置为:
至少部分地基于所述最近完成的层描述符的所述ID,确定所述层描述符列表中具有ID小于所述第一层描述符的所述ID的所有层描述符是否已经完成执行,
响应于确定所述层描述符列表中具有ID小于所述第一层描述符的所述ID的所有层描述符已经完成执行,使得所述神经网络处理器执行所述第一层描述符,以及
响应于确定所述层描述符列表中具有ID小于所述第一层描述符的所述ID的所有层描述符尚未完成执行,使得所述神经网络处理器暂缓所述第一层描述符的执行。
9.根据权利要求8所述的神经网络处理器,其中所述第一层描述符的执行被暂缓,直到所述描述符列表中具有ID小于所述第一层描述符的所述ID的所有层描述符已经完成执行。
10.根据权利要求8所述的神经网络处理器,其中所述神经网络处理器还被配置为执行所述层描述符列表中的层描述符,并且将所述最近完成的层描述符的所述ID存储在所述硬件寄存器中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201880025488.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:卷积神经网络的快速计算
- 下一篇:许可卡使用的方法及使用其的服务器